搜索实测数据

试试这些搜索

找到 6 个运行配置组合

计数为运行配置组合（模型 + 硬件 + 框架 + 量化的聚合），同一组合的多次实测已合并；原始次数见各结果的来源行。

模型DeepSeek-V4.1-Flash

DeepSeek-V4.1-Flash · IQ3_S

L0 自报

NVIDIA RTX PRO 5000 Blackwell · 48GB · vLLM

其他

今天

3.7 tok/s

Decode

27.8 tok/s

Prefill

3.6 s

TTFT

48 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 IQ3_S vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

DeepSeek-V4.1-Flash · IQ3_S

L0 自报

2x NVIDIA RTX 5090 · 64GB · vLLM

其他

今天

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

64 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 IQ3_S vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

DeepSeek-V4.1-Flash · IQ3_S

L0 自报

Apple M5 Max · 128GB · llama.cpp

其他

今天

1.5 tok/s

Decode

11.3 tok/s

Prefill

8.85 s

TTFT

128 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 IQ3_S llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

DeepSeek-V4.1-Flash · IQ2_XS

L0 自报

NVIDIA RTX 5080 SUPER · 24GB · llama.cpp

其他

今天

3.4 tok/s

Decode

25.5 tok/s

Prefill

3.92 s

TTFT

24 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 IQ2_XS llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

DeepSeek-V4.1-Flash · IQ3_S

L0 自报

NVIDIA RTX 5090 · 32GB · vLLM

其他

今天

4.9 tok/s

Decode

36.8 tok/s

Prefill

2.72 s

TTFT

32 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 IQ3_S vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

DeepSeek-V4.1-Flash · IQ2_XS

L0 自报

NVIDIA RTX 4090 · 24GB · vLLM

其他

今天

3.3 tok/s

Decode

24.8 tok/s

Prefill

4.03 s

TTFT

24 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 IQ2_XS vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

共 6 条结果