Qwen3.8-Flash-Next

180B对话由 Qwen (Alibaba) 发布 发起讨论

Qwen (Alibaba) 2026-08-24 发布的开权重图文理解模型,180.0B 总参数,自定义开放权重许可。Qwen3.8 世代的 Flash 档,总参数约 180B,面向低成本高吞吐的本地与云端部署。

0

量化版本

41

实测记录

6

讨论数

量化版本

社区与官方发布的量化版本;「关联实测」只统计精确关联到该发布的实测记录。

还没有已收录的量化版本。

实测数据

共 41 组配置

硬件框架量化生成速度运行显存实测次数证据
NVIDIA RTX 5070 TiStrataQ4_K_M8.2 tok/s16 GB1L0 自报
NVIDIA RTX 5070 TiStrataIQ3_XXS14.2 tok/s16 GB1L0 自报
NVIDIA RTX 5070 TiStrataIQ3_S12.3 tok/s16 GB1L0 自报
NVIDIA RTX 5070 TiStrataIQ4_XS9.2 tok/s16 GB1L0 自报
NVIDIA RTX 5070 Tillama.cppQ4_K_M6.4 tok/s16 GB1L0 自报
NVIDIA RTX 5070 Tillama.cppIQ3_XXS11.1 tok/s16 GB1L0 自报
NVIDIA RTX 5070 Tillama.cppIQ4_XS7.2 tok/s16 GB1L0 自报
NVIDIA RTX 3090StrataQ4_K_M8.6 tok/s24 GB1L0 自报
NVIDIA RTX 3090StrataIQ3_XXS14.8 tok/s24 GB1L0 自报
NVIDIA RTX 3090StrataIQ3_S12.8 tok/s24 GB1L0 自报
NVIDIA RTX 3090StrataIQ4_XS9.6 tok/s24 GB1L0 自报
NVIDIA RTX 3090llama.cppQ4_K_M6.7 tok/s24 GB1L0 自报
NVIDIA RTX 3090llama.cppIQ3_XXS11.6 tok/s24 GB1L0 自报
NVIDIA RTX 3090llama.cppIQ4_XS7.5 tok/s24 GB1L0 自报
NVIDIA RTX 5090StrataQ4_K_M16.4 tok/s32 GB1L0 自报
NVIDIA RTX 5090StrataIQ3_XXS28.4 tok/s32 GB1L0 自报
NVIDIA RTX 5090StrataIQ3_S24.6 tok/s32 GB1L0 自报
NVIDIA RTX 5090StrataIQ4_XS18.4 tok/s32 GB1L0 自报
NVIDIA RTX 5090llama.cppQ4_K_M12.8 tok/s32 GB1L0 自报
NVIDIA RTX 5090llama.cppIQ3_XXS22.1 tok/s32 GB1L0 自报
NVIDIA RTX 5090llama.cppIQ3_S19.2 tok/s32 GB1L0 自报
NVIDIA RTX 5090llama.cppIQ4_XS14.4 tok/s32 GB1L0 自报
NVIDIA RTX 4090StrataQ4_K_M9.2 tok/s24 GB1L0 自报
NVIDIA RTX 4090StrataIQ3_XXS15.9 tok/s24 GB1L0 自报
NVIDIA RTX 4090StrataIQ3_S13.8 tok/s24 GB1L0 自报
NVIDIA RTX 4090StrataIQ4_XS10.4 tok/s24 GB1L0 自报
NVIDIA RTX 4090llama.cppQ4_K_M7.2 tok/s24 GB1L0 自报
NVIDIA RTX 4090llama.cppIQ3_XXS12.4 tok/s24 GB1L0 自报
NVIDIA RTX 4090llama.cppIQ3_S10.8 tok/s24 GB1L0 自报
NVIDIA RTX 4090llama.cppIQ4_XS8.1 tok/s24 GB1L0 自报
Apple M5 Maxllama.cppIQ3_S6.6 tok/s73.4 GB1L0 自报
Apple M4 Maxllama.cppIQ3_S5.8 tok/s73.4 GB1L0 自报
NVIDIA RTX 3060 12GBStrataIQ2_XXS7.1 tok/s12 GB1L0 自报
NVIDIA RTX 3090llama.cppIQ3_S10 tok/s24 GB1L0 自报
NVIDIA RTX 5070 Tillama.cppIQ3_S9.6 tok/s16 GB1L0 自报
NVIDIA RTX 5090vLLMIQ3_S20.9 tok/s32 GB1L0 自报
NVIDIA RTX 4090StrataIQ2_XS16.6 tok/s24 GB1L0 自报
Intel Arc B580StrataIQ2_XS45 tok/s5.5 GB1L1 已复现
NVIDIA RTX 5070StrataIQ2_XS79 tok/s7.5 GB1L1 已复现
NVIDIA RTX 3060 12GBStrataIQ1_S70 tok/s6.5 GB1L1 已复现
4x NVIDIA Tesla P40llama.cppUD-Q3_K_XL21.6 tok/s—1L1 已复现

其中 41 条实测未关联到具体量化版本,完整数据见搜索页。

社区讨论

查看全部讨论