KRAFTON Raon-1 mini 解读:30B 级开权重模型,韩语、Agent 与单卡部署表现如何?

KRAFTON 推出 Raon-1 mini preview:28.8B 总参数、4.3B 激活参数、256K 级上下文。本文核对官方跑分、同档模型对比、投机解码与部署条件,解释限时免费 API 和预览版的适用边界。

先看结论

KRAFTON AI 的 Raon-1 mini 已以 **preview(预览版)**形式开放。它不是追求最大参数量的旗舰路线,而是一款侧重韩语对话、指令遵循、Agent 与部署效率的 30B 级 MoE 语言模型。

值得关注的是三件事:同档模型对照中的部分推理与代码成绩、官方提供的投机解码方案,以及面向单卡部署的量化选项。但它也有明确短板,不能概括成“所有榜单领先”或“所有电脑都能流畅运行”。

本文依据官方模型卡与体验站进行发布解读。TboxIO 尚未独立复跑基准、测量推理速度或验证单卡部署。资料核对日期为 2026 年 10 月 25 日。 官方明确提示:当前不是最终模型,规格和成绩仍可能变化。

先弄清:30B、A4B 分别是什么意思?

官方将模型简称为 30B-A4B,具体规格如下。

项目 官方说明
总参数 28.8B,约 288 亿
每 token 激活参数 4.3B,约 43 亿
架构 混合注意力 MoE
层数 25 层:18 层线性注意力、7 层全注意力
上下文窗口 262,144 tokens
每 token 参与的专家 6 个路由专家加 1 个共享专家
发布状态 Preview,非最终版
许可证 Apache 2.0

MoE 的意义是每个 token 只激活部分参数,降低计算量;激活参数少,不等于只需要存放这部分权重。估算显存时,仍需考虑整体权重、量化格式、缓存及推理框架开销。

官方描述的混合布局让大部分层使用固定大小的状态,只有部分层保留 KV 缓存。这有助于理解其长上下文效率方向,但不能推出“输入越长也不增加内存”或“256K 请求不增加耗时”。

官方跑分:有优势,也有落后项目

下表摘自 KRAFTON 官方模型卡,属于厂商公布的评测,并非本站实测。数值沿用原表,不把不同基准混合计算平均分。

基准 Raon-1 mini preview Qwen3.6-35B-A3B Gemma 4 26B-A4B
MMLU Pro 76.5 85.9 82.9
GPQA Diamond 84.3 83.2 80.7
AIME 2026 93.3 92.9 87.1
IFBench 84.2 66.6 80.9
SWE-Verified 70.8 63.2 61.6
Terminal-Bench Lite 47.0 63.3 52.0
BrowseComp Plus 55.7 34.8 32.2
BFCL v4 Overall 59.8 64.7 65.8

这组对照显示,Raon 在部分数学推理、指令遵循、软件修复和搜索任务上值得尝试;但在 MMLU Pro、Terminal-Bench Lite 和 BFCL v4 上,它并未超过表中的两款对照模型。

对开发者,SWE-Verified 与 Terminal-Bench Lite 的差异尤其值得注意:在仓库中修复问题的表现较好,不代表终端任务也全面更强。应按自己的工作类型选模型,而不是只摘最高的一行成绩。

官方完整表还列出 Qwen3.8-27B、Muse Glimmer 30B 等稠密模型作参考。例如 Qwen3.8-27B 的 GPQA Diamond 为 89.7,高于 Raon 的 84.3。因此,“在所列 MoE 对照中领先部分项目”和“超过所有模型”是两种不同结论。

这次不编造同系列旧版提升幅度;比较对象是官方表中列出的同档模型,而不是一份未经披露的前代成绩。

评测条件不能省略

官方说明 SWE-Verified 使用 mini-SWE-agent 框架。涉及评审与用户模拟的评测注明使用 gpt-5.6-luna;AutomationBench 使用公开划分,并非官方评估集;GDPVal 的数字是评审分数,不是 Elo。

这些限定影响横向比较。尤其不能把这里的 Terminal-Bench Lite 直接与前几篇文章中的其他 Terminal-Bench 版本相减,也不能把不同模型卡、不同工具框架的成绩拼成统一排名。

韩语能力,是它的明确侧重点

模型卡列出韩语、英语、日语、中文、西班牙语、法语和泰语等训练语言,并强调韩语对话。

官方内部 Chatbot Korean 评测给出 Raon 92.9、Qwen3.6-35B-A3B 74.5、Gemma 4 26B-A4B 90.6。它为韩语产品提供了选型线索,但这是未公开的内部对话测试,不能改写成日常韩语回答准确率 92.9%。

如果你的产品需要韩语敬语、口语表达、角色一致性或韩英混合输入,可以优先构建自己的样本集。模型训练中包含中文,也不代表中文业务表现必然等同于韩语。

“最高 2.18 倍加速”,条件是什么?

官方提供配套 DFlash2 草稿模型,用投机解码加速生成:草稿模型提出候选,目标模型验证,尝试减少逐 token 生成的等待。

模型卡中,单张 NVIDIA B300、GSM8K、并发 1 的对照为:自回归解码 296.3 输出 tokens/秒,DFlash2 为 646.3,约 2.18 倍。该组测试使用 MXFP8 目标模型与 vLLM 0.28.0 等指定配置。

这是特定硬件、任务和设置下的厂商结果,不是任何显卡的保证,也不是与其他厂商模型相比的通用速度排名。

并发提升后的总吞吐量也不能当作每位用户都获得的输出速度。实际部署还应分别测首 token 等待、单请求速度、并发吞吐和完整 Agent 任务耗时。

可以在 RTX 5090 或 Mac 上运行吗?

官方提供 MXFP8、NVFP4 等量化选项,并称 NVFP4 支持在 32GB 显存的单张 NVIDIA RTX 5090 上推理。模型卡也列出 Transformers、vLLM、llama.cpp 与 MLX 的运行入口。

这说明有相应的部署路径,不代表任意格式、满上下文和高并发都能在同一配置下运行。Mac 的具体可用内存、量化文件大小、框架支持与上下文长度仍需单独确认;不能从“43 亿激活参数”直接得出“低内存机器一定够用”。

初次验证时,建议先选匹配平台的官方格式,用较短上下文与单并发启动,再逐步增加输入和负载,同时记录内存占用与延迟。

适合怎样的 Agent 工作流?

官方列出 Hermes Agent、Pi 和 OpenCode 等工具框架,可通过兼容 OpenAI 格式的服务接口使用。兼容接口不等于所有工具调用和推理字段都已经适配,应先检查消息格式、工具结果回传及停止条件。

模型卡建议使用思考模式,不建议关闭;代码与数学任务、普通对话和 Agent 任务的推荐采样设置也有区别。复现时应先按官方推荐条件运行,再逐项调参,而不是同时更换框架、提示词和采样策略。

可优先测试韩语客服草稿、可核验的信息整理、小规模仓库修复和明确约束的工具任务。评价重点应是合格结果的完成率、人工修改量和总资源消耗,而不是回答长度。

现在怎么体验,多少钱?

官方体验站提供免登录体验入口,也提供需要申请、邀请与注册的 API 入口。页面明确说明,API 当前为庆祝发布而限时免费,可能有每用户 token 和请求次数限制;未来收费与相关规则会另行公告。

因此,目前不能写成永久免费,也不能补造一个“每百万 tokens 的正式价格”。自行部署还会产生硬件、运行和运维成本,与官方体验站的免费活动是两回事。

权重方面,官方 Hugging Face 页面标注 Apache 2.0;模型卡同时说明仓库设有访问申请。下载前应核对访问流程、所用格式与许可证条款,不要把开权重理解成无需检查使用条件。

值得试吗?我的判断

对重视韩语交互、希望控制部署环境,并愿意自己验证工具链的团队,Raon-1 mini preview 值得加入候选。它的吸引力是可部署的规模、部分任务成绩和配套加速方案的组合。

如果主要需求是通识问答、复杂终端执行或高度稳定的生产服务,应把官方表中的短板和 preview 状态纳入判断。先用相同任务、相同工具权限和预算做对照,确认质量与成本,再决定是否扩大流量。

参考来源

预览模型的规格、结果、服务规则可能更新;接入时请以官方最新说明为准。

参考来源

来源标签区分官方公布、第三方测试与本站实测。

← 返回 AI 动态