AMD Radeon RX 9070 GRE
GPURDNA 4 架构(Navi 48 精简版):12GB GDDR6 / 192-bit 位宽,显存带宽 432 GB/s,整卡功耗 220W。2025-05-08 先在中国上市,2026-06-02 全球铺开。带宽比 RX 9070 低约三分之一,是这张卡的硬约束。
14
运行记录
10
覆盖模型
4
覆盖框架
L2 跨框架验证 × 14
证据分布
典型性能表现
同硬件上各模型 × 框架 × 量化的已上架实测均值。
- vLLM · IQ1_S Decode 165.6 · Prefill 729.98 ·
- Strata · IQ1_S Decode 212.06 · Prefill 968.79 ·
- llama.cpp · IQ2_M Decode 264.62 · Prefill 925.29 ·
- Strata · IQ1_S Decode 369.89 · Prefill 1215.87 ·
- Ollama · Q2_K Decode 89.93 · Prefill 344.74 ·
- Strata · Q3_K_S Decode 124.72 · Prefill 470.9 ·
- llama.cpp · Q2_K Decode 124.6 · Prefill 437.09 ·
- Ollama · Q8_0 Decode 79.82 · Prefill 368.94 ·
- llama.cpp · Q3_K_M Decode 100.99 · Prefill 537.73 ·
- llama.cpp · Q5_K_S Decode 85.62 · Prefill 376.76 ·
- Ollama · IQ3_XS Decode 244.89 · Prefill 1100.19 ·
- Strata · Q5_K_M Decode 128.98 · Prefill 579.29 ·
- llama.cpp · IQ3_S Decode 241.94 · Prefill 776.44 ·
- llama.cpp · Q2_K Decode 298.41 · Prefill 1440.77 ·
Fit 判定
按显存与内存带宽做物理估算:选择模型,查看各量化能否装下及预计速度
估算公式:tok/s =(带宽 ÷ 模型占用)× 0.55,借鉴 llmfit;实测以运行记录为准
核心规格
- 厂商
- AMD
- 架构
- RDNA 4
- 显存
- 12 GB
- 显存带宽
- 432 GB/s
- TDP 功耗
- 220 W
- 发布日期
- 2025-05-08
运行记录
共 14 组配置
| 模型 | 框架 | 量化 | Decode | 生成耗时 | 样本数 |
|---|---|---|---|---|---|
| Qwen3.5-4B | vLLM | IQ1_S | 165.6 tok/s | — | 1 |
| Qwen3.5-4B | Strata | IQ1_S | 212.1 tok/s | — | 1 |
| Qwen3.5-0.8B | llama.cpp | IQ2_M | 264.6 tok/s | — | 1 |
| Qwen3.5-0.8B | Strata | IQ1_S | 369.9 tok/s | — | 1 |
| Qwen3.8-9B | Ollama | Q2_K | 89.9 tok/s | — | 1 |
| Qwen3-8B | Strata | Q3_K_S | 124.7 tok/s | — | 1 |
| Qwen3-4B | llama.cpp | Q2_K | 124.6 tok/s | — | 1 |
| Qwen3-1.7B | Ollama | Q8_0 | 79.8 tok/s | — | 1 |
| Qwen3-4B-Thinking-2507 | llama.cpp | Q3_K_M | 101 tok/s | — | 1 |
| Qwen3-4B-Thinking-2507 | llama.cpp | Q5_K_S | 85.6 tok/s | — | 1 |
| Qwen2.5-0.5B-Instruct | Ollama | IQ3_XS | 244.9 tok/s | — | 1 |
| Qwen2.5-Omni-3B | Strata | Q5_K_M | 129 tok/s | — | 1 |
| Qwen3-Embedding-0.6B | llama.cpp | IQ3_S | 241.9 tok/s | — | 1 |
| Qwen3-Embedding-0.6B | llama.cpp | Q2_K | 298.4 tok/s | — | 1 |