Flint-40B-A2.5B

39.8B代码由 Recursive 发布 发起讨论

Recursive 于 2026-10-21 发布的编码 agent 专用 MoE(Apache-2.0):39.8B 总参 / 每 token 约 2.5B 激活(含输出头,纯 body 约 2.2B;官方尺寸记号 40B-A2.5B)。架构:49 层(2 层稠密 + 47 层 MoE),256 路由专家选 6 + 常驻共享专家;注意力为 35 层滑动窗口(513 token)+ 14 层全注意力,全注意力层无位置编码、滑窗层用 RoPE,每头 QK RMSNorm + attention sink。上下文 262,144 token,词表 150,144,训练截止 2026-06。发布评测:Terminal-Bench 2.1 54.9%、SWE-bench Pro v2 89.7%、SWE-bench Verified 74.2%(Recursive 自测口径,温度 1.0 / pass@1 ≥5 次均值)。BF16 权重约 80GB;社区 GGUF(unsloth)UD-Q4_K_XL 25.1GB、Q8_0 42.3GB、UD-IQ1_M 11.4GB。据 TechCrunch / WIRED 报道,该模型的主体由 AI 在不到 4 个月内构建完成。

0

量化版本

22

实测记录

1

讨论数

量化版本

社区与官方发布的量化版本;「关联实测」只统计精确关联到该发布的实测记录。

还没有已收录的量化版本。

实测数据

共 22 组配置

硬件框架量化生成速度运行显存实测次数证据
AMD Ryzen AI Max+ 395llama.cppIQ3_XS77.1 tok/s53.92 GB1L2 跨框架验证
AMD Ryzen AI Max+ 395vLLMQ4_K_S63.8 tok/s67.29 GB1L2 跨框架验证
Apple M5 Maxllama.cppQ3_K_M152.5 tok/s58.94 GB1L2 跨框架验证
Apple M5 MaxOllamaIQ4_XS123.4 tok/s63.95 GB1L2 跨框架验证
Apple M5 MaxOllamaQ2_K153.4 tok/s48.07 GB1L2 跨框架验证
Apple M5 Ultrallama.cppIQ1_S324.8 tok/s37.2 GB1L2 跨框架验证
Apple M5 Ultrallama.cppQ5_K_S181.4 tok/s77.32 GB1L2 跨框架验证
Apple M5 UltraOllamaQ2_K230.7 tok/s48.07 GB1L2 跨框架验证
NVIDIA H100 80GB HBM3vLLMIQ2_M326 tok/s45.56 GB1L2 跨框架验证
NVIDIA H20vLLMQ4_K_M94.4 tok/s70.63 GB1L2 跨框架验证
NVIDIA H20vLLMQ6_K79.5 tok/s85.68 GB1L2 跨框架验证
NVIDIA H20OllamaQ3_K_S104.8 tok/s56.43 GB1L2 跨框架验证
NVIDIA RTX PRO 6000 Blackwell 96GBvLLMQ3_K_L327.3 tok/s62.28 GB1L2 跨框架验证
NVIDIA RTX PRO 6000 Blackwell 96GBStrataQ3_K_S343.5 tok/s56.43 GB1L2 跨框架验证
Apple M2 Ultrallama.cppQ5_K_S159.1 tok/s76 GB1L2 跨框架验证
Apple M2 UltraOllamaIQ4_XS184.4 tok/s63.95 GB1L2 跨框架验证
NVIDIA RTX Sparkllama.cppIQ3_S91.6 tok/s57.27 GB1L2 跨框架验证
NVIDIA RTX Sparkllama.cppQ3_K_S100.5 tok/s56.43 GB1L2 跨框架验证
NVIDIA RTX Sparkllama.cppQ4_K_M76.2 tok/s70.63 GB1L2 跨框架验证
NVIDIA RTX SparkOllamaIQ4_XS74.5 tok/s63.95 GB1L2 跨框架验证
NVIDIA RTX SparkOllamaQ2_K96.8 tok/s48.07 GB1L2 跨框架验证
NVIDIA RTX SparkOllamaQ4_K_M70 tok/s70.63 GB1L2 跨框架验证

其中 22 条实测未关联到具体量化版本,完整数据见搜索页。

社区讨论

查看全部讨论