Nanbeige4.3-33B 解析:512K 上下文的開放權重 Agent 模型,程式開發與辦公表現如何?

Nanbeige4.3-33B 將 33B 稠密模型定位為程式開發與辦公 Agent 教師模型,支援 512K 上下文。本文整理官方跑分、與 Qwen3.8-27B 等模型的優劣、思考與工具呼叫設定,以及本機部署的記憶體成本。

Nanbeige4.3-33B 將重點放在需要多輪推理、呼叫工具並交付成果的 Agent 工作。它在官方比較中的終端操作、程式開發與辦公自動化表現值得關注,但這不代表它在所有項目上領先,也不表示一般消費級顯示卡就能輕鬆跑滿 512K 上下文。

本文依據截至 2026 年 10 月 26 日可查的官方模型卡與設定檔整理。所有分數均由發布方報告,並非 TboxIO 獨立實測;記憶體計算也屬估算,並非硬體測試結果。

先建立強大的教師模型,再蒸餾小模型

Nanbeige4.3-33B 是系列的旗艦教師模型,目標是在約 30B 參數級距提供較強的程式開發與專業辦公 Agent 能力,再將能力蒸餾至小模型。官方提到後續 Nanbeige4.3-3B 的計畫;這不表示 3B 版本已隨本次發布,也不能把 33B 的成績套用到未來小模型。

這個定位不只要求回答問題,更重視理解任務、處理程式碼儲存庫、執行工具、讀取回饋並修正方案。對於想自架程式開發或辦公助理的團隊,它是值得評估的開放權重候選。

項目 官方資訊與解讀
模型 Nanbeige4.3-33B
規模與結構 約 33B 參數,LlamaForCausalLM 稠密架構
上下文上限 524,288 tokens,即 512K
權重精度 BF16
授權條款 Apache 2.0
主要方向 Agent 程式開發、工具呼叫、專業辦公協作
官方執行範例 Transformers、SGLang、vLLM
思考模式 預設啟用,可透過對話模板設定

稠密 33B 與 MoE 模型的「總參數/每 token 啟用參數」不是相同的成本概念,不能按少量啟用專家的推論負擔估計。512K 是容量上限,不保證所有長度、任務與硬體都有相同品質及速度。

官方跑分:Agent 表現強,但並非全面勝出

官方與 Qwen3.8-27B、Muse-Glimmer-30B、Gemma4-31B 比較,說明所有模型採最高思考強度,各項基準內使用相同推論超參數與測試框架。以下保留代表項目的原始分數。

基準 Nanbeige4.3-33B Qwen3.8-27B Muse-Glimmer-30B Gemma4-31B
Terminal-Bench 2.1 80.9 73.0 61.8 47.2
Terminal-Bench 4.0 23.8 6.3 1.6 0.0
DeepSWE 65.5 42.5 4.4 2.7
SWE-Bench Pro 60.3 61.7 36.9 51.2
SWE-Atlas-QnA 50.8 41.9 17.7 3.3
NL2Repo 53.0 48.3 27.4 33.8
SkillsBench 61.1 56.4 39.7 28.9
Automation Bench 54.2 38.3 15.2 9.7
JobBench 44.8 34.5 16.6 9.0
GDPval 84.8 86.4 75.8 71.4
Claw-Eval pass^3 78.3 75.2 57.3 44.2
Toolathlon-Verified 70.4 68.5 47.2 27.8
GPQA Diamond 89.5 89.2 83.5 91.3
AIME 2026 95.2 94.5 94.7 89.2
AA-LCR 84.0 82.0 83.3 72.0
  • 終端與複雜程式任務突出:相較 Qwen,Terminal-Bench 2.1 高 7.9 分、DeepSWE 高 23.0 分;但 Terminal-Bench 4.0 的 23.8 也顯示困難任務仍有不少失敗空間。
  • 辦公流程值得關注:Automation Bench 高 15.9 分、JobBench 高 10.3 分。這是指定評測流程的成績,不等於企業實際流程的自動化成功率。
  • Qwen 仍有領先項目:Nanbeige 的 SWE-Bench Pro 為 60.3,低於 Qwen 的 61.7;GDPval 為 84.8,亦低於 86.4。
  • 通用推理並非全面領先:GPQA Diamond 的 89.5 略高於 Qwen 的 89.2,但低於 Gemma4-31B 的 91.3。0.3 分的小差距不宜誇大為穩定優勢。

這些是同表分數差,不是相較上一代 Nanbeige 的提升比例。引用的模型卡沒有完整的上一代同條件對照,因此無法據此宣稱提升多少倍。與本站 DeepSeek、MiniMax、Kimi 或 Raon 文章比較時,也應先對齊基準版本、Agent 框架和推理預算。

評測條件會影響結論

Agent 成績同時受模型、工具、執行環境、上下文策略及重試預算影響。官方腳註有幾項需一起閱讀:

  1. Nanbeige 評測啟用了 preserve_thinking=true。接入時若清掉先前思考內容,多輪 Agent 行為可能改變。
  2. Terminal-Bench 2.1 使用 Terminus 2;Terminal-Bench 4 與 DeepSWE 使用 mini-swe-agent v2.4.6。不同版本的分數不應混成跨文章排行榜。
  3. SWE-Atlas-QnA 使用 mini-swe-agent v2.4.6,並由 GPT-6 Sol 以 medium reasoning effort,依 1,304 條任務專屬評分規則評判。NL2Repo 使用 Claude Code;JobBench 使用具搜尋工具的 Claude Code 框架。
  4. Automation Bench v1.0.6 包含 600 個公開任務。Claw-Eval 僅測 General 子集的 157 個單輪互動任務,指標為 pass^3,須保留該標記。
  5. GDPval 採修訂評分規則,84.8 不能改寫成 Elo。Toolathlon-Verified 未限制單次請求的 max_tokens,評估成本仍須看實際 token 消耗。

官方另報告 YC-bench 為 1,025,437 美元,這是基準中以美元表示的結果,不是模型價格、實際營收或使用者收益承諾,也不應與百分比類成績混算。

思考與工具呼叫:兩個不同開關

enable_thinking 控制目前回覆是否產生推理內容,預設啟用,設為 False 可使用非思考模式。preserve_thinking 則控制是否保留先前助手的思考。官方對一般聊天及問答建議 False,對多輪工具呼叫、辦公與程式 Agent 建議 True。

工具呼叫優先建議 tool_call_format="xml",也支援 json 相容格式。對話模板、工具解析器與歷史思考保存方式必須一致;僅替換模型名稱,並不代表重現了官方評測設定。

情境 Temperature Top_p 官方建議 Max New Tokens
Agent 與工具任務 1.0 0.95 65,536
推理與聊天 0.6 0.95 262,144

Max New Tokens 是輸出預算,512K 是上下文上限。輸入、歷史思考、工具結果及新輸出都要滿足服務端限制;較高輸出預算也不表示每次都會產生那麼多 token。

本機部署:BF16 權重約 66GB,快取另計

官方檔案頁總量約 66.3GB,提供 BF16 Safetensors 權重。以 33B 參數、每參數 2 bytes 粗算,權重本身約需十進位 66GB,尚未包含 KV cache、執行緩衝及框架開銷。儲存庫大小不是完整執行時顯示記憶體需求。

官方設定為 52 層、8 個 KV heads、head_dim 128。若採單純 BF16 KV cache,單一序列填滿 524,288 tokens,計入 K、V 兩份快取約需 104GiB KV cache。這是依設定計算的理論估算,並非官方硬體實測;精度、平行切分、卸載與執行策略都會影響實際佔用。

支援 512K 因此不等於一般單卡能輕鬆使用完整上下文。量化可降低權重開銷,但需驗證轉換品質、框架相容性及長上下文表現。本文沒有測試量化版、Mac 或消費級 GPU 的每秒輸出速度。

官方 SGLang、vLLM 範例皆用 4 路張量平行、qwen3 reasoning parser 與 qwen3_coder tool-call parser。這是範例,不是所有部署的最低 GPU 數。應依輸入長度、並行請求數、首 token 延遲與輸出速度做容量測試。

適合誰評估?

自架程式 Agent、帶工具的辦公流程、教師模型蒸餾研究,都有理由將它納入候選。Apache 2.0 提供清楚的授權基礎,具體分發仍應遵循條款。

若主要需求是日常聊天、低延遲或小記憶體裝置,則需衡量 33B 稠密模型的成本。模型卡沒有提供可直接編列商用預算的官方 API 單價或統一吞吐測試。開放權重不等於推論免費,GPU、儲存及維護都需成本。

可先用自己的程式儲存庫及辦公任務測試,記錄完成率、工具錯誤、token 消耗、延遲與人工修正次數;會變更檔案或操作業務系統的工具,先在隔離環境驗證。

TboxIO 的判斷:它的看點是將較強的程式與辦公 Agent 能力放入可自架的 33B 模型。官方結果支持「值得評估」,尚不足以支持「所有任務最強」或「部署一定更省錢」。

參考來源

參考來源

來源標籤區分官方公布、第三方測試與本站實測。

← 返回 AI 動態