KRAFTON Raon-1 mini 解析:30B 級開放權重模型,韓語、Agent 與單卡部署表現如何?

解析 Raon-1 mini preview 的 28.8B 總參數、4.3B 啟用參數與 256K 級上下文,核對官方跑分、同級模型比較、投機解碼及部署條件,說明限時免費與預覽版限制。

先看結論

KRAFTON AI 已以 **preview(預覽版)**形式開放 Raon-1 mini。這是一款側重韓語對話、指令遵循、Agent 與推論效率的 30B 級 MoE 語言模型,並非以最大參數量為目標。

值得關注的是部分推理與程式任務成績、官方投機解碼方案,以及本機部署的量化選項。但不能概括成所有榜單領先,或所有電腦都能流暢執行。

本文依據官方模型卡與體驗站解析。TboxIO 尚未獨立重跑基準、量測速度或驗證單卡部署。資料核對日期為 2026 年 10 月 25 日。 官方提醒目前並非最終模型,規格與結果可能改變。

30B、A4B 代表什麼?

項目 官方規格
總參數 28.8B,約 288 億
每 token 啟用參數 4.3B,約 43 億
架構 混合注意力 MoE
層數 25 層:18 層線性注意力、7 層全注意力
上下文窗口 262,144 tokens
每 token 啟用專家 6 個路由專家加 1 個共享專家
狀態 Preview,非最終版
授權 Apache 2.0

每個 token 只啟用部分參數能減少計算量,不代表只需儲存這部分權重。顯示記憶體預算仍需包含完整權重、量化、快取及執行框架開銷。

多數層使用固定大小狀態,只有部分層保留 KV 快取。這解釋效率方向,並不表示輸入變長也不增加總記憶體或延遲。

官方跑分:優勢與短板都要看

以下是廠商公布的對照,不是本站實測。數值沿用原表,不將不同基準混合平均。

基準 Raon-1 mini preview Qwen3.6-35B-A3B Gemma 4 26B-A4B
MMLU Pro 76.5 85.9 82.9
GPQA Diamond 84.3 83.2 80.7
AIME 2026 93.3 92.9 87.1
IFBench 84.2 66.6 80.9
SWE-Verified 70.8 63.2 61.6
Terminal-Bench Lite 47.0 63.3 52.0
BrowseComp Plus 55.7 34.8 32.2
BFCL v4 Overall 59.8 64.7 65.8

這組結果顯示部分數學推理、指令遵循、程式修復與搜尋工作值得試用,但 MMLU Pro、Terminal-Bench Lite、BFCL v4 並未超過兩款對照。

SWE-Verified 與 Terminal-Bench Lite 的落差尤其重要:儲存庫修復較好,不代表終端執行全面更強。應按自己的工作類型選擇,而非只摘最高分。

完整官方表也包含稠密模型。例如 Qwen3.8-27B 的 GPQA Diamond 為 89.7,高於 Raon 的 84.3。「部分 MoE 比較領先」並非「超過所有模型」。本篇不補造同系列前代的分數或升級幅度。

評測條件不可省略

SWE-Verified 使用 mini-SWE-agent;模型卡註明評審與使用者模擬器為 gpt-5.6-luna。AutomationBench 使用公開劃分,而非官方評估集;GDPVal 是評審分數,不是 Elo。

這些條件限制跨來源比較。不能把本篇 Terminal-Bench Lite 與前幾篇的其他版本直接相減,也不應將不同工具框架拼成統一排名。

韓語是明確的重點

模型卡列出韓語、英語、日語、中文、西班牙語、法語與泰語等訓練語言。未公開的內部 Chatbot Korean 評測為 Raon 92.9、Qwen3.6-35B-A3B 74.5、Gemma 4 26B-A4B 90.6。

這是選型線索,不是日常韓語正確率 92.9%。可自建敬語、口語、角色一致性及韓英混合輸入樣本。訓練包含中文,也不能推定中文業務表現與韓語相同。

最高 2.18 倍加速的條件

官方配套 DFlash2 草稿模型先提出候選 tokens,再由目標模型驗證,以減少部分逐步生成等待。

模型卡的 2.18 倍案例使用單張 NVIDIA B300、GSM8K、並發 1:自回歸解碼 296.3 輸出 tokens/秒,DFlash2 為 646.3。設定包含 MXFP8 目標模型與 vLLM 0.28.0。

這是特定硬體、任務與設定下的廠商結果,不保證其他顯示卡相同,也不是跨廠商通用速度排名。高並發總吞吐量亦不等於每位使用者的速度。請分別量測首 token 等待、單請求生成、並發吞吐及完整 Agent 耗時。

RTX 5090 與 Mac 能執行嗎?

官方提供 MXFP8、NVFP4,並稱 NVFP4 可在 32GB 顯示記憶體的單張 NVIDIA RTX 5090 推論。亦列出 Transformers、vLLM、llama.cpp、MLX 入口。

有執行路徑,不代表所有格式、滿上下文及高並發都能放進同一配置。Mac 仍須核對可用記憶體、量化檔案、框架與上下文長度,不能只看 43 億啟用參數。

建議選擇符合平台的官方格式,從較短上下文及單並發開始,再逐步增加負載,記錄記憶體與延遲。

Agent 工作流程的接入

模型卡列出 Hermes Agent、Pi、OpenCode,可透過相容 OpenAI 格式的端點使用。介面相容不代表工具呼叫與推理欄位已全數適配,需檢查訊息格式、工具結果回傳及停止條件。

官方建議思考模式,不建議關閉;程式/數學與其他任務的推薦取樣也有差異。先按官方設定驗證,再逐項調整。

可先試韓語客服草稿、可核驗資料整理、小型程式修復與明確限制的工具任務,觀察合格完成率、人工修改與總資源,而非回答長度。

體驗方式與費用

官方體驗站提供免登入入口,API 則有申請、邀請與註冊流程。目前 API 為限時免費,可能限制每使用者 tokens 及請求數,未來收費與規則另行公告。

這不代表永久免費,也不能自行填上每百萬 tokens 的正式價格。本機部署仍有硬體、執行與維運成本。

Hugging Face 官方庫標示 Apache 2.0,模型卡亦說明需申請存取。下載前請核對流程、格式及授權條款,開放權重不等於沒有使用條件。

我的判斷

重視韓語互動、希望掌握部署環境,且能自行驗證工具鏈的團隊,值得把此預覽版列為候選。吸引力在可部署規模、部分任務成績與配套加速的組合。

若主力是通識問答、複雜終端工作或穩定正式服務,應納入已知短板及 preview 狀態。先用相同任務、工具權限和預算對照,再擴大流量。

來源

預覽規格、結果與規則可能更新,接入時請以官方最新說明為準。

參考來源

來源標籤區分官方公布、第三方測試與本站實測。

← 返回 AI 動態