gfx1201 vs gfx1203 这个对。R9700 是 RDNA 4.5 但 ISA 向下兼容 gfx1201。
llama.cpp 编译踩坑我补充一个:--usecase=rocm,hiplibsdk,rocmdev 之后还要装 rocblas-dev,否则 GGML_HIP 会报 missing rocblas.h。完整命令:
sudo apt install rocblas-dev hipblas-dev rocsparse-dev
Strata 0.5.3 + ROCm 6.4 我用过,没坑。直接 strata --backend rocm 就行。
vLLM R9700 支持:vllm-project/vllm PR #2847 我盯了一个月,作者说 0.9 版本要合并——预计下周。
汇报实测的时候记得带 rocm-smi --showpower 的功耗数据,我想对比下 R9700 vs 5090 的每瓦 tok/s。