matrix_w3 天前
2020 MBP 13 M1 16GB 跑 27B IQ2_XS = 90 tok/s 我自己跑了 6 个月。日常使用体验:能跑但风扇狂转 + 底部烫手。10 分钟以上对话温度就到 95°C,会降频到 70 tok/s。
850 次电池循环 + 持续满载 = 电池容量损失加速。M1 不适合当主力 LLM 终端。
我的建议:留着当写代码(VSCode + Copilot),LLM 推理用 2x Strix Halo 整机。老婆也能用 2x Strix Halo 跑 27B(130 tok/s 流畅)。