Recursive 于 2026-10-21 发布的编码 agent 专用 MoE(Apache-2.0):39.8B 总参 / 每 token 约 2.5B 激活(含输出头,纯 body 约 2.2B;官方尺寸记号 40B-A2.5B)。架构:49 层(2 层稠密 + 47 层 MoE),256 路由专家选 6 + 常驻共享专家;注意力为 35 层滑动窗口(513 token)+ 14 层全注意力,全注意力层无位置编码、滑窗层用 RoPE,每头 QK RMSNorm + attention sink。上下文 262,144 token,词表 150,144,训练截止 2026-06。发布评测:Terminal-Bench 2.1 54.9%、SWE-bench Pro v2 89.7%、SWE-bench Verified 74.2%(Recursive 自测口径,温度 1.0 / pass@1 ≥5 次均值)。BF16 权重约 80GB;社区 GGUF(unsloth)UD-Q4_K_XL 25.1GB、Q8_0 42.3GB、UD-IQ1_M 11.4GB。据 TechCrunch / WIRED 报道,该模型的主体由 AI 在不到 4 个月内构建完成。
0
量化版本
22
实测记录
1
讨论数
量化版本
社区与官方发布的量化版本;「关联实测」只统计精确关联到该发布的实测记录。
还没有已收录的量化版本。
实测数据
共 22 组配置
| 硬件 | 框架 | 量化 | 生成速度 | 运行显存 | 实测次数 | 证据 |
|---|---|---|---|---|---|---|
| AMD Ryzen AI Max+ 395 | llama.cpp | IQ3_XS | 77.1 tok/s | 53.92 GB | 1 | L2 跨框架验证 |
| AMD Ryzen AI Max+ 395 | vLLM | Q4_K_S | 63.8 tok/s | 67.29 GB | 1 | L2 跨框架验证 |
| Apple M5 Max | llama.cpp | Q3_K_M | 152.5 tok/s | 58.94 GB | 1 | L2 跨框架验证 |
| Apple M5 Max | Ollama | IQ4_XS | 123.4 tok/s | 63.95 GB | 1 | L2 跨框架验证 |
| Apple M5 Max | Ollama | Q2_K | 153.4 tok/s | 48.07 GB | 1 | L2 跨框架验证 |
| Apple M5 Ultra | llama.cpp | IQ1_S | 324.8 tok/s | 37.2 GB | 1 | L2 跨框架验证 |
| Apple M5 Ultra | llama.cpp | Q5_K_S | 181.4 tok/s | 77.32 GB | 1 | L2 跨框架验证 |
| Apple M5 Ultra | Ollama | Q2_K | 230.7 tok/s | 48.07 GB | 1 | L2 跨框架验证 |
| NVIDIA H100 80GB HBM3 | vLLM | IQ2_M | 326 tok/s | 45.56 GB | 1 | L2 跨框架验证 |
| NVIDIA H20 | vLLM | Q4_K_M | 94.4 tok/s | 70.63 GB | 1 | L2 跨框架验证 |
| NVIDIA H20 | vLLM | Q6_K | 79.5 tok/s | 85.68 GB | 1 | L2 跨框架验证 |
| NVIDIA H20 | Ollama | Q3_K_S | 104.8 tok/s | 56.43 GB | 1 | L2 跨框架验证 |
| NVIDIA RTX PRO 6000 Blackwell 96GB | vLLM | Q3_K_L | 327.3 tok/s | 62.28 GB | 1 | L2 跨框架验证 |
| NVIDIA RTX PRO 6000 Blackwell 96GB | Strata | Q3_K_S | 343.5 tok/s | 56.43 GB | 1 | L2 跨框架验证 |
| Apple M2 Ultra | llama.cpp | Q5_K_S | 159.1 tok/s | 76 GB | 1 | L2 跨框架验证 |
| Apple M2 Ultra | Ollama | IQ4_XS | 184.4 tok/s | 63.95 GB | 1 | L2 跨框架验证 |
| NVIDIA RTX Spark | llama.cpp | IQ3_S | 91.6 tok/s | 57.27 GB | 1 | L2 跨框架验证 |
| NVIDIA RTX Spark | llama.cpp | Q3_K_S | 100.5 tok/s | 56.43 GB | 1 | L2 跨框架验证 |
| NVIDIA RTX Spark | llama.cpp | Q4_K_M | 76.2 tok/s | 70.63 GB | 1 | L2 跨框架验证 |
| NVIDIA RTX Spark | Ollama | IQ4_XS | 74.5 tok/s | 63.95 GB | 1 | L2 跨框架验证 |
| NVIDIA RTX Spark | Ollama | Q2_K | 96.8 tok/s | 48.07 GB | 1 | L2 跨框架验证 |
| NVIDIA RTX Spark | Ollama | Q4_K_M | 70 tok/s | 70.63 GB | 1 | L2 跨框架验证 |
其中 22 条实测未关联到具体量化版本,完整数据见搜索页。