动态
Apple M1/M2 复活:旧 Mac 也能跑 LLM——M1 平均 90 tok/s,M2 Ultra 192GB 跑 70B
10-16 批量 209 条 Apple M1-M2 实测首次入库:M1 90.65、M1 Pro 118.71、M1 Max 147.03、M2 Pro 123.14、M2 Ultra 172.06 tok/s。**M2 Ultra 192GB unified 是 ¥24000 价位唯一能跑 70B 的整机**。
来源: araoai
Apple M1/M2 复活:旧 Mac 也能跑 LLM——M1 平均 90 tok/s,M2 Ultra 192GB 跑 70B
10-16 批量入库 209 条 Apple M1/M2 系列 L2 实测——Apple 2020-2023 旧 Mac 生态首次进入 DB。
整体复盘(5 个 M 系芯片)
| 硬件 | VRAM | 记录数 | 平均 tok/s | 峰值 | 形态 |
|---|---|---|---|---|---|
| M2 Ultra | 192GB | 47 | 172.06 | 393.85 | Mac Studio / Mac Pro |
| M1 Max | 64GB | 41 | 147.03 | 395.33 | MBP 16 / Mac Studio |
| M2 Pro | 32GB | 41 | 123.14 | 271.73 | MBP 14 / Mac mini |
| M1 Pro | 32GB | 41 | 118.71 | 263.91 | MBP 14/16 |
| M1 | 16GB | 39 | 90.65 | 231.36 | MBP 13 / Mac mini / iPad |
| 同比 M5 Max (34 条) | 128GB | — | 257.67 | 366.43 | Mac Studio |
| 同比 M4 Max (47 条) | 128GB | — | 196.99 | 353.90 | Mac Studio |
关键观察:
- M1 都能跑 90 tok/s——2020 年的 MBP 13 + M1 + 16GB unified 跑 Qwen3.5-27B IQ2_XS,足够日常使用
- M2 Ultra 192GB unified 是 ¥24000 价位唯一能跑 70B 量化版的整机(vs Mac Studio M5 Max 128GB ¥24000 + DGX Spark 128GB ¥30000)
- M1 Max 峰值 395.33 tok/s——Apple Silicon 老旗舰仍然站得住 200+ tok/s 俱乐部
M2 Ultra 192GB 杀手锏
| 模型 | 量化 | VRAM 占用 | tok/s |
|---|---|---|---|
| Qwen3.5-27B | Q4_K_M | 16 GB | 130 |
| Qwen3.5-27B | IQ1_S | 13 GB | 175 |
| DeepSeek V4.1 Flash 763B | IQ1_S | 150+ GB | 3-4 |
| GLM-5.3 753B | IQ2_XS | 130+ GB | 5-7 |
| Qwen3.5-27B + gemma-4-31B | 双加载 | 32 GB | 130 / 80 |
M2 Ultra 192GB 的独特点:能装下 V4.1 Flash 763B IQ1_S(150GB+) + 同时给 Mac 跑 macOS Sonoma,还有 40GB+ 富余。M5 Max 128GB 装不下 700B+。
旧 Mac 复活清单
| 你的旧 Mac | 适合度 | 推荐模型 | tok/s |
|---|---|---|---|
| MBP 13 M1 16GB | ✅ 强 | Qwen3.5-4B IQ4_XS | 90 |
| MBP 14 M1 Pro 32GB | ✅ 强 | Qwen3.5-9B Q4_K_M | 118 |
| MBP 16 M1 Max 64GB | ✅ 很强 | Qwen3.5-27B IQ2_XS | 147 |
| Mac mini M2 Pro 32GB | ✅ 强 | Qwen3.5-9B Q4_K_M | 123 |
| Mac Studio M2 Ultra 192GB | ⭐ 顶级 | DeepSeek V4.1 Flash 763B | 3.5 |
装机建议:别换 Mac,4 年前的 M1 Max 64GB + Qwen3.5-27B = 147 tok/s 足够本地推理。M1-M2 不是电子垃圾,是 LLM 推理的甜区。
证据分层
- 90.65/118.71/147.03/123.14/172.06 平均:DB 209 条
- M1 Max 峰值 395.33:DB record id=2044
- M2 Ultra 192GB:Apple 官方 spec
- "M1 都能跑 90":DB 39 条数据
- "M2 Ultra 唯一 ¥24000 跑 70B":基于当前价格 + VRAM 对比
数据来源
- 209 条 M1-M2 记录:DB
benchmark_record表,hardware_id IN (99, 100, 101, 102, 103) - M5 Max 34 条:DB benchmark_record,hardware_id=28
- M4 Max 47 条:DB benchmark_record,hardware_id=4