Nanbeige4.3-33B 解读:512K 上下文的开权重 Agent 模型,编程与办公表现如何?
Nanbeige4.3-33B 将 33B 稠密模型定位为编程与办公 Agent 教师模型,支持 512K 上下文。本文梳理官方跑分、与 Qwen3.8-27B 等模型的优劣、思考与工具调用设置,以及本地部署的显存成本。
Nanbeige 发布了 Nanbeige4.3-33B,把重点放在需要多轮推理、调用工具和交付成果的 Agent 工作上。它在官方对比中的终端操作、代码任务与办公自动化表现值得关注,但这并不意味着它在所有项目上领先,也不代表普通消费级显卡就能轻松跑满 512K 上下文。
本文依据截至 2026 年 10 月 26 日可查的官方模型卡与配置文件整理。下文分数均为发布方报告,并非 TboxIO 独立实测;部署内存估算也不等于实机测试结果。
它是什么:先做强教师模型,再蒸馏小模型
Nanbeige4.3-33B 是 Nanbeige4.3 系列的旗舰教师模型,目标是在约 30B 参数档位提供较强的编程与专业办公 Agent 能力,再为后续小模型蒸馏提供基础。官方提到了 Nanbeige4.3-3B 的后续计划;这不能理解为 3B 版本已经随本次一起发布,也不能把 33B 的分数套到未来小模型身上。
与只回答问题的聊天模型相比,这一定位更强调连续工作:理解任务、处理代码仓库、运行工具、读取反馈,再修正方案。对于希望自托管代码助手或办公助手的团队,它提供了一个可以评估的开权重候选。
| 项目 | 官方信息与解读 |
|---|---|
| 模型 | Nanbeige4.3-33B |
| 规模与结构 | 约 33B 参数,配置为 LlamaForCausalLM 稠密架构 |
| 上下文上限 | 524,288 tokens,即 512K |
| 权重精度 | BF16 |
| 许可证 | Apache 2.0 |
| 主要方向 | Agent 编程、工具调用、专业办公协作 |
| 官方运行示例 | Transformers、SGLang、vLLM |
| 思考模式 | 默认启用,可通过模板参数关闭 |
这里的 33B 与 MoE 模型的“总参数 / 每 token 激活参数”不是同一种成本描述。它是稠密模型,不能按少量激活专家模型的推理负担来估计。512K 也只是上下文容量上限,不保证在所有长度、任务和硬件上都维持同样的质量与速度。
官方跑分:编程与办公较强,但并非全胜
官方将它与 Qwen3.8-27B、Muse-Glimmer-30B 和 Gemma4-31B 放在同一张表中比较,说明各模型使用最高思考强度,并在每项基准内使用相同的推理超参数和测试框架。以下保留部分代表项目的原始分数,便于直接核对。
| 基准 | Nanbeige4.3-33B | Qwen3.8-27B | Muse-Glimmer-30B | Gemma4-31B |
|---|---|---|---|---|
| Terminal-Bench 2.1 | 80.9 | 73.0 | 61.8 | 47.2 |
| Terminal-Bench 4.0 | 23.8 | 6.3 | 1.6 | 0.0 |
| DeepSWE | 65.5 | 42.5 | 4.4 | 2.7 |
| SWE-Bench Pro | 60.3 | 61.7 | 36.9 | 51.2 |
| SWE-Atlas-QnA | 50.8 | 41.9 | 17.7 | 3.3 |
| NL2Repo | 53.0 | 48.3 | 27.4 | 33.8 |
| SkillsBench | 61.1 | 56.4 | 39.7 | 28.9 |
| Automation Bench | 54.2 | 38.3 | 15.2 | 9.7 |
| JobBench | 44.8 | 34.5 | 16.6 | 9.0 |
| GDPval | 84.8 | 86.4 | 75.8 | 71.4 |
| Claw-Eval pass^3 | 78.3 | 75.2 | 57.3 | 44.2 |
| Toolathlon-Verified | 70.4 | 68.5 | 47.2 | 27.8 |
| GPQA Diamond | 89.5 | 89.2 | 83.5 | 91.3 |
| AIME 2026 | 95.2 | 94.5 | 94.7 | 89.2 |
| AA-LCR | 84.0 | 82.0 | 83.3 | 72.0 |
这组结果说明它有成为 Agent 候选的理由,同时也给出了选择边界:
- 终端与复杂代码任务突出:相对 Qwen3.8-27B,Terminal-Bench 2.1 高 7.9 分,DeepSWE 高 23.0 分。不过,Terminal-Bench 4.0 的 23.8 也提醒我们:更困难的任务仍有大量失败空间。
- 办公任务值得关注:Automation Bench 高 15.9 分,JobBench 高 10.3 分;这反映的是指定评测工作流表现,不能直接等同于企业真实流程的自动化成功率。
- Qwen 仍有领先项目:SWE-Bench Pro 中 Nanbeige 为 60.3,低于 Qwen 的 61.7;GDPval 为 84.8,也低于 Qwen 的 86.4。
- 通用推理不是全面压倒:GPQA Diamond 的 89.5 略高于 Qwen 的 89.2,但低于 Gemma4-31B 的 91.3。0.3 分的小差距不宜放大成稳定能力优势。
这些都是同表的分数差,不是相对于上一代 Nanbeige 的提升比例。当前引用的模型卡没有提供完整的上一代同条件对照,因此本文不编造“提升多少倍”的结论。与本站前几篇 DeepSeek、MiniMax、Kimi 或 Raon 文章比较时,也应先对齐基准版本、Agent 框架和推理预算。
读跑分,必须一起看测试条件
Agent 测试的结果不仅取决于模型,也受工具、执行环境、上下文策略和重试预算影响。官方脚注中有几项会直接影响解读:
- Nanbeige 的评测启用了 preserve_thinking=true,即保留历史轮次的思考内容。实际接入时若默认清掉这些信息,多轮 Agent 的行为可能不同。
- Terminal-Bench 2.1 使用 Terminus 2;Terminal-Bench 4 与 DeepSWE 使用 mini-swe-agent v2.4.6。不同版本的 Terminal-Bench 分数不应直接拼成一张跨文章排行榜。
- SWE-Atlas-QnA 使用 mini-swe-agent v2.4.6,并用 GPT-6 Sol、medium reasoning effort,依据 1,304 条任务专属评分规则评判;NL2Repo 使用 Claude Code,JobBench 则使用带搜索工具的 Claude Code 框架。
- Automation Bench v1.0.6 包含 600 个公开任务。Claw-Eval 仅评测 General 子集的 157 个单轮用户交互任务,而且指标是 pass^3,应保留这一标记。
- GDPval 使用修订后的评分规则,表中的 84.8 不能改写成 Elo 分数。Toolathlon-Verified 未限制单次请求的 max_tokens,因此成本比较还要看实际 token 消耗。
官方另外报告 YC-bench 为 1,025,437 美元,但这是基准中的美元计价结果,不是模型收费、真实营收或使用者的收益承诺。我们不把它与百分比类分数混算。
思考与工具调用:两个开关各管一件事
模型模板提供 enable_thinking 和 preserve_thinking,二者容易被混淆。
enable_thinking 控制当前回复是否生成推理内容,默认开启,设为 False 可切换非思考模式。preserve_thinking 控制多轮对话中是否保留此前助手的思考;官方对普通聊天与问答建议 False,对多轮工具调用、办公和代码 Agent 建议 True。
官方还建议工具调用优先使用 tool_call_format="xml",同时提供 json 兼容格式。接入现有 Agent 时,需要确认模板、工具调用解析器、思考内容的保存方式相互一致,不能只把模型名称替换掉就认为结果等同于官方评测。
| 场景 | Temperature | Top_p | 官方建议 Max New Tokens |
|---|---|---|---|
| Agent 与工具任务 | 1.0 | 0.95 | 65,536 |
| 推理与聊天 | 0.6 | 0.95 | 262,144 |
Max New Tokens 是输出预算,512K 是上下文上限,两者并不等同。输入、历史思考、工具返回内容和新输出需要共同满足服务端上下文约束;较高输出上限也不意味着每个请求都会生成那么长。
本地部署:BF16 权重约 66GB,长上下文还要另算
官方仓库文件页显示约 66.3GB,提供 BF16 Safetensors 权重。按 33B 参数、每参数 2 字节粗算,权重本身约需 66GB 十进制存储;这还没有计入 KV cache、运行时缓冲和框架开销。仓库大小不等于完整运行时显存需求。
从官方配置看,模型有 52 层、8 个 KV heads、head_dim 为 128。若使用朴素的 BF16 KV cache,单条序列填满 524,288 tokens,按 K 与 V 两份缓存估算约需 104GiB KV cache。这是根据配置做的理论估算,不是官方硬件实测;缓存精度、并行切分、卸载和运行时策略会改变实际占用。
因此,不宜把“支持 512K”解读为“普通单卡就能轻松使用 512K”。量化可能降低权重开销,但仍需核验转换质量、框架兼容性与长上下文表现。本文没有进行量化版本或 Mac 的速度测试,也没有依据可以承诺某张消费显卡的每秒输出速度。
官方 SGLang 和 vLLM 示例均采用 4 路张量并行,使用 qwen3 reasoning parser 与 qwen3_coder tool-call parser。这是示例配置,不是所有部署的最低卡数要求。实际选型应先根据目标输入长度、并发量、首 token 延迟和输出速度做容量测试,再决定 GPU 配置。
适合谁,什么时候值得尝试?
如果你的重点是可自托管的代码 Agent、带工具的办公流程,或者想研究教师模型与后续小模型蒸馏,这次发布值得加入候选列表。Apache 2.0 许可证为使用和改造提供了较清晰的许可基础,具体分发仍应遵守对应许可证要求。
如果你主要需要日常聊天、极低延迟或小显存单机体验,33B 稠密模型的资源成本需要认真衡量。模型卡没有给出可直接用于商业预算的官方 API 单价或统一吞吐测试;开权重也不等于推理免费,托管 GPU、存储和维护都需要成本。
建议用你自己的代码仓库和办公任务做小规模验证,同时记录完成率、工具调用错误、token 消耗、延迟与人工修正次数。涉及实际文件或业务系统的 Agent,可先在隔离测试环境中评估其工具行为。
TboxIO 的判断:Nanbeige4.3-33B 的看点是把较强的编程与办公 Agent 表现放进可自托管的 33B 模型中。官方结果支持“值得评估”,尚不足以支持“所有任务最强”或“部署一定更省钱”。
参考来源
参考来源
来源标签区分官方公布、第三方测试与本站实测。
- 官方公布Nanbeige 官方模型卡
- 官方公布Nanbeige 官方架构配置
- 官方公布Nanbeige 官方权重文件列表