DeepSeek-V4.1-Flash

763.2B对话由 DeepSeek 发布 发起讨论

DeepSeek 2026-09-10 发布的开权重图文理解模型,763.2B 总参数,MIT 许可。DeepSeek-V4.1 的 Flash 档,重点改进 KV cache 压缩,总参数约 763B(MoE)。

0

量化版本

40

实测记录

2

讨论数

量化版本

社区与官方发布的量化版本;「关联实测」只统计精确关联到该发布的实测记录。

还没有已收录的量化版本。

实测数据

共 40 组配置

硬件框架量化生成速度运行显存实测次数证据
NVIDIA RTX PRO 4000 BlackwellSGLangIQ2_XS2.1 tok/s24 GB1L0 自报
NVIDIA RTX PRO 4000 BlackwellSGLangIQ3_S1.8 tok/s24 GB1L0 自报
NVIDIA RTX PRO 4000 BlackwellvLLMIQ2_XS2.2 tok/s24 GB1L0 自报
NVIDIA RTX PRO 4000 BlackwellvLLMIQ3_S1.8 tok/s24 GB1L0 自报
NVIDIA RTX PRO 5000 BlackwellSGLangIQ2_XS4.3 tok/s48 GB1L0 自报
NVIDIA RTX PRO 5000 BlackwellSGLangIQ3_S3.6 tok/s48 GB1L0 自报
NVIDIA RTX PRO 5000 BlackwellvLLMIQ2_XS4.4 tok/s48 GB1L0 自报
NVIDIA DGX SparkSGLangIQ2_XS0.9 tok/s128 GB1L0 自报
NVIDIA DGX SparkSGLangIQ3_S0.7 tok/s128 GB1L0 自报
NVIDIA DGX SparkvLLMIQ2_XS0.9 tok/s128 GB1L0 自报
NVIDIA DGX SparkvLLMIQ3_S0.8 tok/s128 GB1L0 自报
2x NVIDIA RTX 5070 TiSGLangIQ2_XS—32 GB1L0 自报
2x NVIDIA RTX 5070 TiSGLangIQ3_S—32 GB1L0 自报
2x NVIDIA RTX 5070 TivLLMIQ2_XS—32 GB1L0 自报
2x NVIDIA RTX 5070 TivLLMIQ3_S—32 GB1L0 自报
Apple M5 Ultrallama.cppIQ2_XS3.6 tok/s258.1 GB1L0 自报
Apple M5 Ultrallama.cppIQ3_S3 tok/s309.6 GB1L0 自报
Apple M5 Prollama.cppIQ2_XS0.9 tok/s64 GB1L0 自报
Apple M5 Prollama.cppIQ3_S0.8 tok/s64 GB1L0 自报
Apple M4 Prollama.cppIQ2_XS0.8 tok/s64 GB1L0 自报
Apple M4 Prollama.cppIQ3_S0.7 tok/s64 GB1L0 自报
Apple M3 Maxllama.cppIQ2_XS0.9 tok/s36 GB1L0 自报
Apple M3 Maxllama.cppIQ3_S0.8 tok/s36 GB1L0 自报
NVIDIA RTX 3090llama.cppIQ2_XS2.8 tok/s24 GB1L0 自报
NVIDIA RTX 3090llama.cppIQ3_S2.4 tok/s24 GB1L0 自报
NVIDIA RTX 3090vLLMIQ2_XS3.1 tok/s24 GB1L0 自报
NVIDIA RTX 3090vLLMIQ3_S2.6 tok/s24 GB1L0 自报
NVIDIA RTX 3090 Tillama.cppIQ2_XS3.1 tok/s24 GB1L0 自报
NVIDIA RTX 3090 Tillama.cppIQ3_S2.5 tok/s24 GB1L0 自报
NVIDIA RTX 3090 TivLLMIQ2_XS3.3 tok/s24 GB1L0 自报
NVIDIA RTX 3090 TivLLMIQ3_S2.8 tok/s24 GB1L0 自报
NVIDIA RTX 5070 Tillama.cppIQ2_XS2.7 tok/s16 GB1L0 自报
NVIDIA RTX 5070 Tillama.cppIQ3_S2.3 tok/s16 GB1L0 自报
NVIDIA RTX 5070 TivLLMIQ2_XS3 tok/s16 GB1L0 自报
NVIDIA RTX 5070 TivLLMIQ3_S2.5 tok/s16 GB1L0 自报
NVIDIA RTX PRO 5000 BlackwellvLLMIQ3_S3.7 tok/s48 GB1L0 自报
2x NVIDIA RTX 5090vLLMIQ3_S—64 GB1L0 自报
Apple M5 Maxllama.cppIQ3_S1.5 tok/s128 GB1L0 自报
NVIDIA RTX 5090vLLMIQ3_S4.9 tok/s32 GB1L0 自报
NVIDIA RTX 4090vLLMIQ2_XS3.3 tok/s24 GB1L0 自报

其中 40 条实测未关联到具体量化版本,完整数据见搜索页。

社区讨论

查看全部讨论