NVIDIA RTX 5060 SUPER
GPURTX 5060 SUPER（CES 2026 传闻）：12GB 显存，128-bit 总线。入门级本地推理卡，7-13B Q4 流畅。
5
运行记录
5
覆盖模型
2
覆盖框架
L0 自报 × 5
证据分布
典型性能表现
同硬件上各模型 × 框架 × 量化的已上架实测均值。
- llama.cpp · Q4_K_M Decode 71.3 · Prefill 534.8 ·
- llama.cpp · Q8_0 Decode 388.3 · Prefill 2912.3 ·
- llama.cpp · Q4_K_M Decode — · Prefill — ·
- llama.cpp · Q4_K_M Decode 145.6 · Prefill 1092 ·
- Strata · Q4_K_M Decode 186.7 · Prefill 1400.3 ·
核心规格
- 厂商
- NVIDIA
- 架构
- Blackwell
- 显存
- 12 GB
- 显存带宽
- 448 GB/s
- TDP 功耗
- 180 W
- 发布日期
- 2026-03-01
运行记录
共 5 组配置
| 模型 | 框架 | 量化 | Decode | 生成耗时 | 样本数 |
|---|---|---|---|---|---|
| Ministral-3-8B-Instruct-2512 | llama.cpp | Q4_K_M | 71.3 tok/s | — | 1 |
| Qwen3.5-0.8B | llama.cpp | Q8_0 | 388.3 tok/s | — | 1 |
| gemma-4-E2B-it | llama.cpp | Q4_K_M | — | — | 1 |
| Qwen3-4B | llama.cpp | Q4_K_M | 145.6 tok/s | — | 1 |
| Qwen3.5-4B | Strata | Q4_K_M | 186.7 tok/s | — | 1 |