Qwen3.8-Flash-Next · UD-Q3_K_XL
L1 已复现4x NVIDIA Tesla P40 · 96GB · llama.cpp
GitHub
昨天
21.6 tok/s
Decode
330 tok/s
Prefill
— s
TTFT
— GB
VRAM
配置(最近一次实测)
Linux UD-Q3_K_XL llama.cpp b11058
来源:GitHub · 1 次实测 · 1 个独立来源
计数为运行配置组合(模型 + 硬件 + 框架 + 量化的聚合),同一组合的多次实测已合并;原始次数见各结果的来源行。
4x NVIDIA Tesla P40 · 96GB · llama.cpp
GitHub
昨天
21.6 tok/s
Decode
330 tok/s
Prefill
— s
TTFT
— GB
VRAM
来源:GitHub · 1 次实测 · 1 个独立来源
共 1 条结果