指南已收录
SGLang NVFP4 在 RTX PRO 6000 Blackwell 上跑 Qwen3.8-27B:171 tok/s 复现要点
站内记录 #31 那条 171.10 tok/s / prefill 10877 tok/s 的数据是我们实验室跑出来的,这里把复现条件写全,免得有人拿到卡对不上数。 环境:RTX PRO 6000 Blackwell 96G,SGLang
bit_squeezer2026-09-292 条回复
bit_squeezer
2026-09-29
2最近回复 2026-09-29