Qwen3.5-27B · Q4_K_M
L1 已复现NVIDIA RTX 5090 · 32GB · llama.cpp
GitHub
昨天
30.09 tok/s
Decode
1,515.83 tok/s
Prefill
— s
TTFT
— GB
VRAM
配置(最近一次实测)
Windows 11 Q4_K_M llama.cpp b10741
来源:GitHub · 1 次实测 · 1 个独立来源
计数为运行配置组合(模型 + 硬件 + 框架 + 量化的聚合),同一组合的多次实测已合并;原始次数见各结果的来源行。
NVIDIA RTX 5090 · 32GB · llama.cpp
GitHub
昨天
30.09 tok/s
Decode
1,515.83 tok/s
Prefill
— s
TTFT
— GB
VRAM
来源:GitHub · 1 次实测 · 1 个独立来源
共 1 条结果