AMD Radeon RX 9070 GRE

GPU

RDNA 4 架构(Navi 48 精简版):12GB GDDR6 / 192-bit 位宽,显存带宽 432 GB/s,整卡功耗 220W。2025-05-08 先在中国上市,2026-06-02 全球铺开。带宽比 RX 9070 低约三分之一,是这张卡的硬约束。

14

运行记录

10

覆盖模型

4

覆盖框架

L2 跨框架验证 × 14

证据分布

典型性能表现

同硬件上各模型 × 框架 × 量化的已上架实测均值。

  1. vLLM · IQ1_S Decode 165.6 · Prefill 729.98 ·
  2. Strata · IQ1_S Decode 212.06 · Prefill 968.79 ·
  3. llama.cpp · IQ2_M Decode 264.62 · Prefill 925.29 ·
  4. Strata · IQ1_S Decode 369.89 · Prefill 1215.87 ·
  5. Ollama · Q2_K Decode 89.93 · Prefill 344.74 ·
  6. Strata · Q3_K_S Decode 124.72 · Prefill 470.9 ·
  7. llama.cpp · Q2_K Decode 124.6 · Prefill 437.09 ·
  8. Ollama · Q8_0 Decode 79.82 · Prefill 368.94 ·
  9. llama.cpp · Q3_K_M Decode 100.99 · Prefill 537.73 ·
  10. llama.cpp · Q5_K_S Decode 85.62 · Prefill 376.76 ·
  11. Ollama · IQ3_XS Decode 244.89 · Prefill 1100.19 ·
  12. Strata · Q5_K_M Decode 128.98 · Prefill 579.29 ·
  13. llama.cpp · IQ3_S Decode 241.94 · Prefill 776.44 ·
  14. llama.cpp · Q2_K Decode 298.41 · Prefill 1440.77 ·

Fit 判定

按显存与内存带宽做物理估算:选择模型,查看各量化能否装下及预计速度

估算公式:tok/s =(带宽 ÷ 模型占用)× 0.55,借鉴 llmfit;实测以运行记录为准

核心规格

厂商
AMD
架构
RDNA 4
显存
12 GB
显存带宽
432 GB/s
TDP 功耗
220 W
发布日期
2025-05-08

运行记录

共 14 组配置

模型框架量化Decode生成耗时样本数
Qwen3.5-4BvLLMIQ1_S165.6 tok/s—1
Qwen3.5-4BStrataIQ1_S212.1 tok/s—1
Qwen3.5-0.8Bllama.cppIQ2_M264.6 tok/s—1
Qwen3.5-0.8BStrataIQ1_S369.9 tok/s—1
Qwen3.8-9BOllamaQ2_K89.9 tok/s—1
Qwen3-8BStrataQ3_K_S124.7 tok/s—1
Qwen3-4Bllama.cppQ2_K124.6 tok/s—1
Qwen3-1.7BOllamaQ8_079.8 tok/s—1
Qwen3-4B-Thinking-2507llama.cppQ3_K_M101 tok/s—1
Qwen3-4B-Thinking-2507llama.cppQ5_K_S85.6 tok/s—1
Qwen2.5-0.5B-InstructOllamaIQ3_XS244.9 tok/s—1
Qwen2.5-Omni-3BStrataQ5_K_M129 tok/s—1
Qwen3-Embedding-0.6Bllama.cppIQ3_S241.9 tok/s—1
Qwen3-Embedding-0.6Bllama.cppQ2_K298.4 tok/s—1