KRAFTON Raon-1 mini: mô hình mở trọng số 30B cho tiếng Hàn, agent và triển khai một GPU

Kết luận trước

KRAFTON AI cung cấp Raon-1 mini ở dạng preview, chưa phải bản cuối. Mô hình ngôn ngữ MoE quy mô 30B tập trung hội thoại tiếng Hàn, tuân thủ chỉ dẫn, agent và hiệu quả suy luận thay vì số tham số lớn nhất.

Ba điểm đáng chú ý là một số kết quả suy luận, lập trình so với mô hình cùng phân khúc, giải mã suy đoán chính thức và các định dạng lượng tử hóa để chạy cục bộ. Tuy nhiên, không có cơ sở kết luận dẫn đầu mọi benchmark hay chạy mượt trên mọi máy.

Bài phân tích dựa trên model card và trang trải nghiệm chính thức. TboxIO chưa tự chạy lại benchmark, đo tốc độ hoặc xác minh triển khai một GPU. Thông tin kiểm tra ngày 25/10/2026. Nhà phát triển lưu ý thông số và kết quả có thể đổi trước bản cuối.

30B và A4B nghĩa là gì?

Hạng mục	Thông số chính thức
Tổng tham số	28.8B
Tham số hoạt động mỗi token	4.3B
Kiến trúc	MoE với attention lai
Số lớp	25: 18 linear attention và 7 full attention
Cửa sổ ngữ cảnh	262,144 tokens
Chuyên gia hoạt động mỗi token	6 định tuyến và 1 chia sẻ
Trạng thái	Preview, chưa phải bản cuối
Giấy phép	Apache 2.0

Chỉ kích hoạt một phần giúp giảm tính toán, không có nghĩa chỉ cần lưu phần trọng số đó. Ngân sách bộ nhớ phải tính toàn bộ trọng số, lượng tử hóa, cache và phần phụ trội của runtime.

Đa số lớp dùng trạng thái kích thước cố định, chỉ một nhóm giữ KV cache. Điều này giải thích hướng tối ưu, không bảo đảm đầu vào dài đến đâu cũng không tăng tổng bộ nhớ hay độ trễ.

Điểm chính thức: cả ưu điểm và điểm yếu

Đây là so sánh do nhà phát triển công bố, không phải TboxIO đo. Các benchmark khác nhau không nên được gộp thành một điểm trung bình.

Benchmark	Raon-1 mini preview	Qwen3.6-35B-A3B	Gemma 4 26B-A4B
MMLU Pro	76.5	85.9	82.9
GPQA Diamond	84.3	83.2	80.7
AIME 2026	93.3	92.9	87.1
IFBench	84.2	66.6	80.9
SWE-Verified	70.8	63.2	61.6
Terminal-Bench Lite	47.0	63.3	52.0
BrowseComp Plus	55.7	34.8	32.2
BFCL v4 Overall	59.8	64.7	65.8

Một số tác vụ toán, chỉ dẫn, sửa kho mã và tìm kiếm đáng thử. Nhưng MMLU Pro, Terminal-Bench Lite và BFCL v4 đều thấp hơn cả hai mô hình đối chứng.

Chênh lệch giữa SWE-Verified và Terminal-Bench Lite đáng lưu ý: sửa kho mã tốt hơn không đồng nghĩa thực thi terminal nói chung mạnh hơn. Hãy chọn theo việc của mình, không chỉ theo hàng điểm cao nhất.

Bảng đầy đủ còn có mô hình dense. Ví dụ Qwen3.8-27B đạt GPQA Diamond 89.7, cao hơn Raon 84.3. Dẫn đầu một số so sánh MoE khác với vượt mọi mô hình. Chúng tôi không tự tạo điểm của Raon đời trước hoặc mức cải thiện chưa được công bố.

Điều kiện đánh giá đi kèm

SWE-Verified dùng mini-SWE-agent. Model card ghi gpt-5.6-luna là giám khảo và bộ mô phỏng người dùng. AutomationBench dùng public split, không phải tập đánh giá chính thức; GDPVal là điểm giám khảo, không phải Elo.

Vì vậy không lấy Terminal-Bench Lite trừ trực tiếp cho phiên bản Terminal-Bench khác trong các bài trước, hoặc ghép kết quả khác khung công cụ thành một thứ hạng chung.

Tiếng Hàn là trọng tâm rõ ràng

Ngôn ngữ huấn luyện được liệt kê gồm Hàn, Anh, Nhật, Trung, Tây Ban Nha, Pháp và Thái. Bài Chatbot Korean nội bộ, chưa công khai, báo cáo Raon 92.9, Qwen3.6-35B-A3B 74.5 và Gemma 4 26B-A4B 90.6.

Đây là tín hiệu chọn mô hình, không phải độ chính xác tiếng Hàn thường ngày 92.9%. Nên tự thử kính ngữ, khẩu ngữ, tính nhất quán nhân vật và đầu vào Hàn–Anh. Có tiếng Trung trong huấn luyện cũng không chứng minh hiệu quả nghiệp vụ ngang tiếng Hàn.

Nhanh hơn tối đa 2.18 lần trong điều kiện nào?

Mô hình nháp DFlash2 đề xuất tokens để mô hình đích xác nhận, giảm một phần công việc sinh tuần tự.

Ví dụ 2.18 lần dùng một NVIDIA B300, GSM8K, đồng thời 1: giải mã tự hồi quy đạt 296.3 tokens đầu ra/giây, DFlash2 đạt 646.3. Thử nghiệm dùng mô hình đích MXFP8, vLLM 0.28.0 và cấu hình chỉ định.

Đây là kết quả của hãng trên phần cứng, tác vụ cụ thể, không bảo đảm cho GPU khác và không phải xếp hạng tốc độ phổ quát. Tổng thông lượng nhiều yêu cầu cũng khác tốc độ từng người dùng. Cần đo riêng thời gian tới token đầu, tốc độ đơn yêu cầu, thông lượng đồng thời và thời gian toàn tác vụ agent.

Có chạy trên RTX 5090 hoặc Mac không?

Hãng có MXFP8, NVFP4 và nói NVFP4 cho phép suy luận trên một NVIDIA RTX 5090 với VRAM 32GB. Model card liệt kê Transformers, vLLM, llama.cpp và MLX.

Đó là các hướng triển khai, không chứng minh mọi định dạng, ngữ cảnh tối đa và nhiều yêu cầu đồng thời đều vừa một cấu hình. Với Mac, kiểm tra bộ nhớ dùng được, tệp lượng tử hóa thực tế, runtime và độ dài ngữ cảnh. Đừng suy ra đủ RAM chỉ từ 4.3B tham số hoạt động.

Bắt đầu với định dạng phù hợp, ngữ cảnh ngắn và đồng thời 1, sau đó tăng tải trong khi ghi bộ nhớ và độ trễ.

Tích hợp agent

Hãng nêu Hermes Agent, Pi và OpenCode qua endpoint tương thích OpenAI. Tương thích API chưa chứng minh mọi trường reasoning và tool call được xử lý đúng. Kiểm tra định dạng tin nhắn, phản hồi kết quả công cụ và điều kiện dừng.

Mô hình được thiết kế cho chế độ suy nghĩ, không khuyến nghị tắt. Cấu hình lấy mẫu cho mã/toán khác tác vụ còn lại. Nên bắt đầu bằng thiết lập chính thức rồi thay từng yếu tố.

Có thể thử bản nháp hỗ trợ khách hàng tiếng Hàn, tổ chức thông tin kiểm chứng được, sửa kho mã nhỏ và tác vụ công cụ giới hạn rõ. Đánh giá kết quả đạt chuẩn, chỉnh sửa thủ công và tổng tài nguyên thay vì độ dài câu trả lời.

Truy cập và chi phí

Trang chính thức có trải nghiệm khách không đăng nhập, cùng API qua đăng ký yêu cầu, nhận lời mời và tạo tài khoản. API hiện miễn phí trong thời gian giới hạn, có thể giới hạn tokens và số yêu cầu mỗi người. Phí và chính sách tương lai sẽ thông báo riêng.

Không thể viết thành miễn phí vĩnh viễn hoặc tự đặt một đơn giá thương mại cho một triệu tokens. Tự triển khai vẫn tốn phần cứng, vận hành và bảo trì.

Kho Hugging Face chính thức ghi Apache 2.0, đồng thời model card nêu yêu cầu quyền truy cập. Kiểm tra quy trình, định dạng và giấy phép trước tải; trọng số mở vẫn có điều kiện sử dụng.

Đánh giá của chúng tôi

Nhóm chú trọng tiếng Hàn, muốn kiểm soát môi trường và có khả năng kiểm chứng công cụ nên đưa bản preview vào danh sách thử. Điểm hấp dẫn là quy mô có thể triển khai, kết quả một số tác vụ và giải pháp tăng tốc đi kèm.

Nếu trọng tâm là kiến thức rộng, terminal phức tạp hoặc dịch vụ production ổn định, hãy cân nhắc các điểm yếu và trạng thái preview. So sánh cùng tác vụ, quyền công cụ và ngân sách trước khi tăng lưu lượng.

Nguồn

• Model card KRAFTON chính thức: kiến trúc, bảng so sánh, điều kiện, giải mã và triển khai.
• Trang Raon và FAQ chính thức: trải nghiệm, miễn phí tạm thời và giới hạn.

Thông số, kết quả và chính sách có thể đổi. Kiểm tra thông tin chính thức mới nhất khi tích hợp.