GuideVerified
SGLang NVFP4 在 RTX PRO 6000 Blackwell 上跑 Qwen3.8-27B:171 tok/s 复现要点
Model · Qwen3.8-27BHardware · NVIDIA RTX PRO 6000 BlackwellBenchmark · Qwen3.8-27B × NVIDIA RTX PRO 6000 Blackwell
站内记录 #31 那条 171.10 tok/s / prefill 10877 tok/s 的数据是我们实验室跑出来的,这里把复现条件写全,免得有人拿到卡对不上数。 环境:RTX PRO 6000 Blackwell 96G,SGLang
bit_squeezer2026-09-292 replies
bit_squeezer
2026-09-29
2last reply 2026-09-29