KRAFTON AI 从零训练的 Raon 开放模型家族首款（2026-10-22 预览版，Apache-2.0，官方尺寸记号 30B-A4B）：28.8B 总参 / 4.3B 激活（128 路由专家选 6 + 1 共享）。混合注意力是核心卖点——25 层中 18 层 Raon Delta Attention（线性注意力，把 Kimi Delta Attention 的 erase/write 门解耦，固定大小状态）+ 7 层 Gated MLA（KV 仅约 8KiB/token BF16），3:1 混排；上下文 262,144 token。韩/英/日/中/西/法/泰多语，原生 tool calling（Hermes Agent / Pi / OpenCode 已接）。量化官方提供 MXFP8 与 NVFP4，**NVFP4 单卡 RTX 5090（32GB）即可推理**；附 DFlash2 草稿模型（B300 实测输出吞吐最高 2.18 倍）。权重仓库为申请制（自动批准），官方 GGUF：Q4_K_M 19.7GB、Q6_K 25.8GB、Q8_0 30.7GB。注意：preview 版本，规格与结果在正式版前可能变化。
0
量化版本
24
实测记录
1
讨论数
量化版本
社区与官方发布的量化版本；「关联实测」只统计精确关联到该发布的实测记录。
还没有已收录的量化版本。
实测数据
共 23 组配置
| 硬件 | 框架 | 量化 | 生成速度 | 运行显存 | 实测次数 | 证据 |
|---|---|---|---|---|---|---|
| NVIDIA RTX 5090 | Ollama | Q2_K | 351.2 tok/s | 30.4 GB | 1 | L2 跨框架验证 |
| AMD Ryzen AI Max+ 395 | llama.cpp | IQ2_M | 46.3 tok/s | 33.55 GB | 1 | L2 跨框架验证 |
| AMD Ryzen AI Max+ 395 | Ollama | IQ2_M | 44.2 tok/s | 33.55 GB | 1 | L2 跨框架验证 |
| Apple M5 Max | llama.cpp | IQ2_XS | 104 tok/s | 31.13 GB | 1 | L2 跨框架验证 |
| Apple M5 Max | llama.cpp | IQ4_XS | 87 tok/s | 46.85 GB | 1 | L2 跨框架验证 |
| Apple M5 Max | Ollama | IQ1_S | 109.9 tok/s | 27.5 GB | 1 | L2 跨框架验证 |
| Apple M5 Max | Ollama | Q5_K_S | 61.5 tok/s | 56.53 GB | 1 | L2 跨框架验证 |
| Apple M5 Ultra | llama.cpp | Q8_0 | 76.1 tok/s | 71.65 GB | 1 | L2 跨框架验证 |
| Apple M5 Ultra | Ollama | Q4_K_S | 118.2 tok/s | 49.28 GB | 1 | L2 跨框架验证 |
| NVIDIA H100 80GB HBM3 | llama.cpp | Q6_K | 343.5 tok/s | 62.58 GB | 1 | L2 跨框架验证 |
| NVIDIA H100 80GB HBM3 | Ollama | Q3_K_S | 313.6 tok/s | 41.41 GB | 1 | L2 跨框架验证 |
| NVIDIA H20 | Ollama | IQ4_XS | 54.6 tok/s | 46.85 GB | 1 | L2 跨框架验证 |
| NVIDIA H20 | Ollama | Q3_K_M | 58.6 tok/s | 43.23 GB | 1 | L2 跨框架验证 |
| NVIDIA H20 | Strata | Q5_K_M | 68.6 tok/s | 58.35 GB | 1 | L2 跨框架验证 |
| NVIDIA RTX PRO 6000 Blackwell 96GB | vLLM | IQ3_S | 304.1 tok/s | 42.02 GB | 1 | L2 跨框架验证 |
| NVIDIA RTX PRO 6000 Blackwell 96GB | vLLM | IQ4_XS | 310.1 tok/s | 46.85 GB | 1 | L2 跨框架验证 |
| NVIDIA RTX PRO 6000 Blackwell 96GB | Ollama | Q4_K_M | 227.9 tok/s | 51.69 GB | 1 | L2 跨框架验证 |
| Apple M2 Ultra | llama.cpp | IQ2_M | 155.9 tok/s | 33.55 GB | 1 | L2 跨框架验证 |
| Apple M2 Ultra | llama.cpp | IQ3_S | 130 tok/s | 42.02 GB | 1 | L2 跨框架验证 |
| Apple M2 Ultra | Ollama | Q4_K_M | 110.5 tok/s | 51.69 GB | 1 | L2 跨框架验证 |
| NVIDIA RTX Spark | llama.cpp | Q4_K_M | 47.8 tok/s | 51.69 GB | 2 | L2 跨框架验证 |
| NVIDIA RTX Spark | Ollama | IQ4_XS | 49.6 tok/s | 46.85 GB | 1 | L2 跨框架验证 |
| NVIDIA RTX Spark | Ollama | Q4_K_M | 45 tok/s | 51.69 GB | 1 | L2 跨框架验证 |
其中 24 条实测未关联到具体量化版本，完整数据见搜索页。