Nanbeige4.3-33B 解析:512K 上下文的開放權重 Agent 模型,程式開發與辦公表現如何?
Nanbeige4.3-33B 將 33B 稠密模型定位為程式開發與辦公 Agent 教師模型,支援 512K 上下文。本文整理官方跑分、與 Qwen3.8-27B 等模型的優劣、思考與工具呼叫設定,以及本機部署的記憶體成本。
Nanbeige4.3-33B 將重點放在需要多輪推理、呼叫工具並交付成果的 Agent 工作。它在官方比較中的終端操作、程式開發與辦公自動化表現值得關注,但這不代表它在所有項目上領先,也不表示一般消費級顯示卡就能輕鬆跑滿 512K 上下文。
本文依據截至 2026 年 10 月 26 日可查的官方模型卡與設定檔整理。所有分數均由發布方報告,並非 TboxIO 獨立實測;記憶體計算也屬估算,並非硬體測試結果。
先建立強大的教師模型,再蒸餾小模型
Nanbeige4.3-33B 是系列的旗艦教師模型,目標是在約 30B 參數級距提供較強的程式開發與專業辦公 Agent 能力,再將能力蒸餾至小模型。官方提到後續 Nanbeige4.3-3B 的計畫;這不表示 3B 版本已隨本次發布,也不能把 33B 的成績套用到未來小模型。
這個定位不只要求回答問題,更重視理解任務、處理程式碼儲存庫、執行工具、讀取回饋並修正方案。對於想自架程式開發或辦公助理的團隊,它是值得評估的開放權重候選。
| 項目 | 官方資訊與解讀 |
|---|---|
| 模型 | Nanbeige4.3-33B |
| 規模與結構 | 約 33B 參數,LlamaForCausalLM 稠密架構 |
| 上下文上限 | 524,288 tokens,即 512K |
| 權重精度 | BF16 |
| 授權條款 | Apache 2.0 |
| 主要方向 | Agent 程式開發、工具呼叫、專業辦公協作 |
| 官方執行範例 | Transformers、SGLang、vLLM |
| 思考模式 | 預設啟用,可透過對話模板設定 |
稠密 33B 與 MoE 模型的「總參數/每 token 啟用參數」不是相同的成本概念,不能按少量啟用專家的推論負擔估計。512K 是容量上限,不保證所有長度、任務與硬體都有相同品質及速度。
官方跑分:Agent 表現強,但並非全面勝出
官方與 Qwen3.8-27B、Muse-Glimmer-30B、Gemma4-31B 比較,說明所有模型採最高思考強度,各項基準內使用相同推論超參數與測試框架。以下保留代表項目的原始分數。
| 基準 | Nanbeige4.3-33B | Qwen3.8-27B | Muse-Glimmer-30B | Gemma4-31B |
|---|---|---|---|---|
| Terminal-Bench 2.1 | 80.9 | 73.0 | 61.8 | 47.2 |
| Terminal-Bench 4.0 | 23.8 | 6.3 | 1.6 | 0.0 |
| DeepSWE | 65.5 | 42.5 | 4.4 | 2.7 |
| SWE-Bench Pro | 60.3 | 61.7 | 36.9 | 51.2 |
| SWE-Atlas-QnA | 50.8 | 41.9 | 17.7 | 3.3 |
| NL2Repo | 53.0 | 48.3 | 27.4 | 33.8 |
| SkillsBench | 61.1 | 56.4 | 39.7 | 28.9 |
| Automation Bench | 54.2 | 38.3 | 15.2 | 9.7 |
| JobBench | 44.8 | 34.5 | 16.6 | 9.0 |
| GDPval | 84.8 | 86.4 | 75.8 | 71.4 |
| Claw-Eval pass^3 | 78.3 | 75.2 | 57.3 | 44.2 |
| Toolathlon-Verified | 70.4 | 68.5 | 47.2 | 27.8 |
| GPQA Diamond | 89.5 | 89.2 | 83.5 | 91.3 |
| AIME 2026 | 95.2 | 94.5 | 94.7 | 89.2 |
| AA-LCR | 84.0 | 82.0 | 83.3 | 72.0 |
- 終端與複雜程式任務突出:相較 Qwen,Terminal-Bench 2.1 高 7.9 分、DeepSWE 高 23.0 分;但 Terminal-Bench 4.0 的 23.8 也顯示困難任務仍有不少失敗空間。
- 辦公流程值得關注:Automation Bench 高 15.9 分、JobBench 高 10.3 分。這是指定評測流程的成績,不等於企業實際流程的自動化成功率。
- Qwen 仍有領先項目:Nanbeige 的 SWE-Bench Pro 為 60.3,低於 Qwen 的 61.7;GDPval 為 84.8,亦低於 86.4。
- 通用推理並非全面領先:GPQA Diamond 的 89.5 略高於 Qwen 的 89.2,但低於 Gemma4-31B 的 91.3。0.3 分的小差距不宜誇大為穩定優勢。
這些是同表分數差,不是相較上一代 Nanbeige 的提升比例。引用的模型卡沒有完整的上一代同條件對照,因此無法據此宣稱提升多少倍。與本站 DeepSeek、MiniMax、Kimi 或 Raon 文章比較時,也應先對齊基準版本、Agent 框架和推理預算。
評測條件會影響結論
Agent 成績同時受模型、工具、執行環境、上下文策略及重試預算影響。官方腳註有幾項需一起閱讀:
- Nanbeige 評測啟用了 preserve_thinking=true。接入時若清掉先前思考內容,多輪 Agent 行為可能改變。
- Terminal-Bench 2.1 使用 Terminus 2;Terminal-Bench 4 與 DeepSWE 使用 mini-swe-agent v2.4.6。不同版本的分數不應混成跨文章排行榜。
- SWE-Atlas-QnA 使用 mini-swe-agent v2.4.6,並由 GPT-6 Sol 以 medium reasoning effort,依 1,304 條任務專屬評分規則評判。NL2Repo 使用 Claude Code;JobBench 使用具搜尋工具的 Claude Code 框架。
- Automation Bench v1.0.6 包含 600 個公開任務。Claw-Eval 僅測 General 子集的 157 個單輪互動任務,指標為 pass^3,須保留該標記。
- GDPval 採修訂評分規則,84.8 不能改寫成 Elo。Toolathlon-Verified 未限制單次請求的 max_tokens,評估成本仍須看實際 token 消耗。
官方另報告 YC-bench 為 1,025,437 美元,這是基準中以美元表示的結果,不是模型價格、實際營收或使用者收益承諾,也不應與百分比類成績混算。
思考與工具呼叫:兩個不同開關
enable_thinking 控制目前回覆是否產生推理內容,預設啟用,設為 False 可使用非思考模式。preserve_thinking 則控制是否保留先前助手的思考。官方對一般聊天及問答建議 False,對多輪工具呼叫、辦公與程式 Agent 建議 True。
工具呼叫優先建議 tool_call_format="xml",也支援 json 相容格式。對話模板、工具解析器與歷史思考保存方式必須一致;僅替換模型名稱,並不代表重現了官方評測設定。
| 情境 | Temperature | Top_p | 官方建議 Max New Tokens |
|---|---|---|---|
| Agent 與工具任務 | 1.0 | 0.95 | 65,536 |
| 推理與聊天 | 0.6 | 0.95 | 262,144 |
Max New Tokens 是輸出預算,512K 是上下文上限。輸入、歷史思考、工具結果及新輸出都要滿足服務端限制;較高輸出預算也不表示每次都會產生那麼多 token。
本機部署:BF16 權重約 66GB,快取另計
官方檔案頁總量約 66.3GB,提供 BF16 Safetensors 權重。以 33B 參數、每參數 2 bytes 粗算,權重本身約需十進位 66GB,尚未包含 KV cache、執行緩衝及框架開銷。儲存庫大小不是完整執行時顯示記憶體需求。
官方設定為 52 層、8 個 KV heads、head_dim 128。若採單純 BF16 KV cache,單一序列填滿 524,288 tokens,計入 K、V 兩份快取約需 104GiB KV cache。這是依設定計算的理論估算,並非官方硬體實測;精度、平行切分、卸載與執行策略都會影響實際佔用。
支援 512K 因此不等於一般單卡能輕鬆使用完整上下文。量化可降低權重開銷,但需驗證轉換品質、框架相容性及長上下文表現。本文沒有測試量化版、Mac 或消費級 GPU 的每秒輸出速度。
官方 SGLang、vLLM 範例皆用 4 路張量平行、qwen3 reasoning parser 與 qwen3_coder tool-call parser。這是範例,不是所有部署的最低 GPU 數。應依輸入長度、並行請求數、首 token 延遲與輸出速度做容量測試。
適合誰評估?
自架程式 Agent、帶工具的辦公流程、教師模型蒸餾研究,都有理由將它納入候選。Apache 2.0 提供清楚的授權基礎,具體分發仍應遵循條款。
若主要需求是日常聊天、低延遲或小記憶體裝置,則需衡量 33B 稠密模型的成本。模型卡沒有提供可直接編列商用預算的官方 API 單價或統一吞吐測試。開放權重不等於推論免費,GPU、儲存及維護都需成本。
可先用自己的程式儲存庫及辦公任務測試,記錄完成率、工具錯誤、token 消耗、延遲與人工修正次數;會變更檔案或操作業務系統的工具,先在隔離環境驗證。
TboxIO 的判斷:它的看點是將較強的程式與辦公 Agent 能力放入可自架的 33B 模型。官方結果支持「值得評估」,尚不足以支持「所有任務最強」或「部署一定更省錢」。
參考來源
參考來源
來源標籤區分官方公布、第三方測試與本站實測。
- 官方公布Nanbeige 官方模型卡
- 官方公布官方架構設定
- 官方公布官方權重檔案清單