DeepSeek-V4.1-Flash · IQ2_XS
L0 自报NVIDIA RTX PRO 4000 Blackwell · 24GB · SGLang
其他
2026-10-06
2.1 tok/s
Decode
15.8 tok/s
Prefill
6.33 s
TTFT
24 GB
VRAM
配置(最近一次实测)
来源:其他 · 1 次实测 · 1 个独立来源
计数为运行配置组合(模型 + 硬件 + 框架 + 量化的聚合),同一组合的多次实测已合并;原始次数见各结果的来源行。
NVIDIA RTX PRO 4000 Blackwell · 24GB · SGLang
其他
2026-10-06
2.1 tok/s
Decode
15.8 tok/s
Prefill
6.33 s
TTFT
24 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX PRO 4000 Blackwell · 24GB · SGLang
其他
2026-10-06
1.8 tok/s
Decode
13.5 tok/s
Prefill
7.41 s
TTFT
24 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX PRO 4000 Blackwell · 24GB · vLLM
其他
2026-10-06
2.2 tok/s
Decode
16.5 tok/s
Prefill
6.06 s
TTFT
24 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX PRO 4000 Blackwell · 24GB · vLLM
其他
2026-10-06
1.8 tok/s
Decode
13.5 tok/s
Prefill
7.41 s
TTFT
24 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX PRO 5000 Blackwell · 48GB · SGLang
其他
2026-10-06
4.3 tok/s
Decode
32.3 tok/s
Prefill
3.1 s
TTFT
48 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX PRO 5000 Blackwell · 48GB · SGLang
其他
2026-10-06
3.6 tok/s
Decode
27 tok/s
Prefill
3.7 s
TTFT
48 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX PRO 5000 Blackwell · 48GB · vLLM
其他
2026-10-06
4.4 tok/s
Decode
33 tok/s
Prefill
3.03 s
TTFT
48 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA DGX Spark · 128GB · SGLang
其他
2026-10-06
0.9 tok/s
Decode
6.8 tok/s
Prefill
14.71 s
TTFT
128 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA DGX Spark · 128GB · SGLang
其他
2026-10-06
0.7 tok/s
Decode
5.3 tok/s
Prefill
18.87 s
TTFT
128 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA DGX Spark · 128GB · vLLM
其他
2026-10-06
0.9 tok/s
Decode
6.8 tok/s
Prefill
14.71 s
TTFT
128 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA DGX Spark · 128GB · vLLM
其他
2026-10-06
0.8 tok/s
Decode
6 tok/s
Prefill
16.67 s
TTFT
128 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
2x NVIDIA RTX 5070 Ti · 32GB · SGLang
其他
2026-10-06
— tok/s
Decode
— tok/s
Prefill
— s
TTFT
32 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
2x NVIDIA RTX 5070 Ti · 32GB · SGLang
其他
2026-10-06
— tok/s
Decode
— tok/s
Prefill
— s
TTFT
32 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
2x NVIDIA RTX 5070 Ti · 32GB · vLLM
其他
2026-10-06
— tok/s
Decode
— tok/s
Prefill
— s
TTFT
32 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
2x NVIDIA RTX 5070 Ti · 32GB · vLLM
其他
2026-10-06
— tok/s
Decode
— tok/s
Prefill
— s
TTFT
32 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
Apple M5 Ultra · 512GB · llama.cpp
其他
2026-10-06
3.6 tok/s
Decode
27 tok/s
Prefill
3.7 s
TTFT
258.1 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
Apple M5 Ultra · 512GB · llama.cpp
其他
2026-10-06
3 tok/s
Decode
22.5 tok/s
Prefill
4.44 s
TTFT
309.6 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
Apple M5 Pro · 64GB · llama.cpp
其他
2026-10-06
0.9 tok/s
Decode
6.8 tok/s
Prefill
14.71 s
TTFT
64 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
Apple M5 Pro · 64GB · llama.cpp
其他
2026-10-06
0.8 tok/s
Decode
6 tok/s
Prefill
16.67 s
TTFT
64 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
Apple M4 Pro · 64GB · llama.cpp
其他
2026-10-06
0.8 tok/s
Decode
6 tok/s
Prefill
16.67 s
TTFT
64 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
共 40 条结果