KRAFTON Raon-1-mini 预览版：28.8B-A4.3B 混合注意力 MoE，NVFP4 单卡 5090 可跑

10 月 22 日，PUBG 母公司 KRAFTON 的 AI 子公司公开了 Raon 开放模型家族的首款——Raon-1-mini 预览版（Apache-2.0）。这是少数「从零训练」的非中美系开放权重模型：28.8B 总参 / 4.3B 激活（官方记号 30B-A4B），韩语会话与 agentic 任务是主攻方向。韩国媒体（Chosunbiz / MoneyToday / 首尔经济 / AsiaE）连续两天跟进报道。

先说清状态：这是 preview，不是最终版——官方明确「规格与结果在正式版前可能变化」；权重仓库申请制但自动批准。

混合注意力：18 层线性 + 7 层 MLA

25 层里只有 7 层保留 KV cache：

组件	配置
Raon Delta Attention	18 层，固定大小状态（把 Kimi Delta Attention 的 erase / write 门解耦）
Gated MLA	7 层，KV 仅约 8KiB/token（BF16）
排布	3:1 混排，40 头，头维 128（RDA）/ 192QK-128V（MLA）
MoE	128 路由专家选 6 + 1 共享 = 每 token 4.3B
上下文	262,144 token

线性注意力层的状态不随上下文增长，MLA 层把 KV 压到 8KiB/token——两者叠加后 262K 上下文的显存账几乎只剩权重本身。这是目前开放权重里最激进的混合注意力方案之一。

NVFP4：单卡 5090 可跑

官方量化提供 MXFP8 与 NVFP4 两种 checkpoint，NVFP4 让整模型进入单张 RTX 5090（32GB）。另附 DFlash2 草稿模型（官方 B300 实测，vLLM 0.28.0 / block 8）：输出吞吐最高 2.18 倍。tool calling 原生支持，Hermes Agent、Pi、OpenCode 已接入。

官方 GGUF（KRAFTON 仓库，10-22）

量化	文件大小
IQ4_XS	16.1 GB
Q4_K_M	19.7 GB
Q5_K_M	22.2 GB
Q6_K	25.8 GB
Q8_0	30.7 GB
DFlash2 草稿（Q8_0）	0.7 GB

Q8_0 30.7GB 贴着 5090 的 32GB 上限，Q4_K_M 19.7GB 是 24GB 卡的现实档位。同样提醒：站内显存口径含 padding 余量，保守公式下 4.3B 激活的 28.8B 总参要更大的卡才判 fit——物理 GGUF 与站内 fit 判定是两本账，各看各的。

站内收录

Raon-1-mini-preview（id 93）已入库，新增 24 条 L2 实测，全池均值 136.1 tok/s：

硬件	量化	实测
RTX 5090	Q2_K	351.2 tok/s
H100	Q6_K	343.5 tok/s
RTX PRO 6000 96GB	Q4_K_M	227.9 tok/s
M2 Ultra 80GB	Q4_K_M	110.5 tok/s
RTX Spark（116 GiB Linux 池）	Q4_K_M	45-49 tok/s

A4.3B 激活介于 A3B 与稠密 27B 之间，实测曲线与站内 Qwen3.6-35B-A3B 的经验一致——MoE 解码速度基本由激活参数 × 卡带宽决定，总参只决定装不装得下。