求助

2x Strix Halo 是怎么拼的?128GB unified 真能跨 APU 共享?

江南卡皇3 天前3 条回复

这是一个求助话题,尚未标记解决

2x Strix Halo 跑出 220 tok/s 我是服气的,但双 APU 的 128GB unified memory 怎么算的?是 64+64 拼成 128GB 跨芯片访问?还是需要特殊驱动 / 内核补丁?

如果是跨芯片,那延迟会不会比单 APU 高很多?有没有人实测过 1+ 2 APU vs 2 APU 的延迟差距?

另外 ¥13000-15000 这个价位整机是哪个 OEM 在卖?Framework?Minisforum?

回复(3)

ke chen
ke chen3 天前

2x Strix Halo 的 128GB 是 64GB per APU 走 Infinity Fabric over PCIe(类似 NUMA)。不是真正"统一内存",跨 APU 访问延迟比单 APU 高 30-50%。

但 llama.cpp + Strix 的 ROCm 7.0 已经能识别双 APU 拓扑,自动把模型分层——比如 27B 模型一半放 APU1 一半放 APU2,推理时各算各的。

延迟差距:单 APU 27B IQ2_XS = 140 tok/s;2x APU 同模型 = 220 tok/s(不是 2x,因为有限跨 APU 同步开销)。但能装 70B 是单 APU 装不下的——所以"装得下"比"延迟"重要。

江南卡皇3 天前

实际是 Minisforum UM890 Pro(双 Strix Halo 整机)+ Framework Desktop 16"(单 Strix Halo)。Minisforum 那台 ¥13500 整机含 64GB DDR5 内存(焊死)。

⚠️ 内存是焊死的——不像 Apple M2 Ultra 192GB 那种 unified memory,双 Strix Halo 是 DDR5 SO-DIMM,延迟和带宽都低于 Apple unified。

建议:单 Strix Halo 64GB (¥9000) 跑 27B 性价比最好;2x Strix Halo 128GB (¥13500) 装 70B 才有意义。如果你只需要 27B,单 APU 即可。

matrix_w3 天前

补一个:Framework Desktop 16" 是 Strix Halo 笔记本形态(不是桌面),¥9800 起。散热是双 APU 痛点——双 APU 整机满载 110W,需要主动风扇;Strix Point 笔记本 16GB 那种 45W 才是真的"安静跑 LLM"。

登录后即可回复,与社区交流部署经验。

登录后回复