MiniMax-M3 · IQ4_XS
L0 自报NVIDIA RTX 5070 Ti · 16GB · SGLang
其他
2026-10-06
3.2 tok/s
Decode
24 tok/s
Prefill
4.17 s
TTFT
16 GB
VRAM
配置(最近一次实测)
来源:其他 · 1 次实测 · 1 个独立来源
计数为运行配置组合(模型 + 硬件 + 框架 + 量化的聚合),同一组合的多次实测已合并;原始次数见各结果的来源行。
NVIDIA RTX 5070 Ti · 16GB · SGLang
其他
2026-10-06
3.2 tok/s
Decode
24 tok/s
Prefill
4.17 s
TTFT
16 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX 5070 Ti · 16GB · SGLang
其他
2026-10-06
4.2 tok/s
Decode
31.5 tok/s
Prefill
3.17 s
TTFT
16 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX 5070 Ti · 16GB · vLLM
其他
2026-10-06
3.3 tok/s
Decode
24.8 tok/s
Prefill
4.03 s
TTFT
16 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX 5070 Ti · 16GB · vLLM
其他
2026-10-06
4.4 tok/s
Decode
33 tok/s
Prefill
3.03 s
TTFT
16 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX 5090 · 32GB · SGLang
其他
2026-10-06
6.4 tok/s
Decode
48 tok/s
Prefill
2.08 s
TTFT
32 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX 5090 · 32GB · SGLang
其他
2026-10-06
8.5 tok/s
Decode
63.8 tok/s
Prefill
1.57 s
TTFT
32 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX 5090 · 32GB · vLLM
其他
2026-10-06
6.6 tok/s
Decode
49.5 tok/s
Prefill
2.02 s
TTFT
32 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX 5090 · 32GB · vLLM
其他
2026-10-06
8.8 tok/s
Decode
66 tok/s
Prefill
1.52 s
TTFT
32 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX 4090 · 24GB · SGLang
其他
2026-10-06
3.6 tok/s
Decode
27 tok/s
Prefill
3.7 s
TTFT
24 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX 4090 · 24GB · SGLang
其他
2026-10-06
4.8 tok/s
Decode
36 tok/s
Prefill
2.78 s
TTFT
24 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX 4090 · 24GB · vLLM
其他
2026-10-06
3.7 tok/s
Decode
27.8 tok/s
Prefill
3.6 s
TTFT
24 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX 4090 · 24GB · vLLM
其他
2026-10-06
5 tok/s
Decode
37.5 tok/s
Prefill
2.67 s
TTFT
24 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
共 12 条结果