动态
AMD Radeon AI PRO R9700 32GB 工作站卡首次实测：33 条记录平均 210 tok/s
10-13 批量 33 条 R9700 L2 实测平均 210.14 tok/s（峰值 394.48）——AMD 工作站卡首次进 DB。比 RTX 5090 慢 22%，但平均 VRAM 占用只 9.46GB，说明 R9700 的 32GB 富余很多。
来源： araoai
AMD Radeon AI PRO R9700 32GB 工作站卡首次实测：33 条记录平均 210 tok/s
10-13 批量入库 33 条 AMD Radeon AI PRO R9700 (32GB GDDR6) L2 实测——AMD 工作站卡首次进入本站 DB。
整体复盘
| 指标 | 数值 |
|---|---|
| 记录数 | 33 |
| 平均 decode tok/s | 210.14 |
| 峰值 decode tok/s | 394.48 |
| 平均 VRAM 占用 | 9.46 GB（30% of 32GB） |
| 模型范围 | 0.5B → 31B |
关键观察：平均 VRAM 9.46GB 是 32GB 卡的 30%——R9700 在当前 27B 及以下模型上有 70% 的 VRAM 富余。给未来 70B 量化版留了巨大空间。
R9700 vs 同价位 / 同档 N 卡
| 硬件 | VRAM | 记录数 | 平均 tok/s | 价格档 |
|---|---|---|---|---|
| RTX 5090 | 32GB | 35 | 270.04 | ¥14000 |
| AMD R9700 | 32GB | 33 | 210.14 | ¥9000（推测） |
| AMD RX 7900 XTX | 24GB | 21 | 147.03 | ¥6500 |
| RTX 4080 | 16GB | 23 | 202.72 | ¥8500 |
| RTX 4090 | 24GB | 23 | 174.22 | ¥12000 |
R9700 比 5090 慢 22%，比 4080 快 4%，比 7900 XTX 快 43%——AMD 工作站卡在推理性能上已经追平 N 卡中高端。
R9700 5 个最戏剧性的单条
| 模型 | 量化 | tok/s | VRAM |
|---|---|---|---|
| Qwen3.5-0.8B | IQ2_XS | 394.48 | 2.91 GB |
| Qwen3.5-0.8B | Q2_K | 380+ | 3.0 GB |
| Qwen2.5-0.5B-Instruct | Q5_K_M | 384.75 | 3.08 GB |
| Qwen3-1.7B | Q4_K_M | 280+ | 5.0 GB |
| Qwen3.5-27B | Q4_K_M | 95 | 22 GB |
Qwen3.5-0.8B IQ2_XS + R9700 + llama.cpp = 394.48 tok/s——本站 DB 历史最快单条之一。
关键洞察：AMD 推理生态在追平
| 维度 | AMD R9700 | RTX 5090 |
|---|---|---|
| 推理速度 | 210 tok/s | 270 tok/s |
| ROCm 兼容性 | ✅ 6.4+ 全支持 | N/A |
| llama.cpp 支持 | ✅ Vulkan + ROCm | ✅ CUDA |
| Strata 支持 | ✅ 0.5.3 起 | ✅ |
| vLLM 支持 | ✅ ROCm | ✅ CUDA |
| 价格 | ¥9000（推测） | ¥14000 |
AMD 在 2026 年的推理生态已经能和 N 卡叫板——3 年前的 7900 XTX 没人敢这么比。
装机建议
| 预算 | 方案 | 27B tok/s | 推荐度 |
|---|---|---|---|
| ¥9000 | R9700 + 64GB DDR5 + NVMe 4.0 | 95 | ⭐⭐⭐⭐ 性价比 |
| ¥12000 | RTX 4090 + 64GB DDR5 + NVMe 4.0 | 91 | ⭐⭐⭐ 经典 |
| ¥14000 | RTX 5090 + 64GB DDR5 + NVMe 4.0 | 175 | ⭐⭐⭐⭐⭐ 顶级 |
R9700 是 ¥9000 价位唯一能跑 27B 全速 + 32GB VRAM 富余的卡。
证据分层
- 210.14 平均：DB 33 条，hardware_id=79
- 394.48 峰值：DB record id=1450
- 9.46GB VRAM 平均：DB 实际 vram_gb 字段
- 价格 ¥9000：基于 AMD 官方 2025-09 定价 + 国内电商折扣
- ROCm 6.4+：AMD 官方文档
数据来源
- 33 条 R9700 记录：DB
benchmark_record表，hardware_id=79 - 峰值单条：DB record id=1450（Qwen3.5-0.8B + IQ2_XS + llama.cpp）