← 新闻
动态

Apple M1/M2 复活:旧 Mac 也能跑 LLM——M1 平均 90 tok/s,M2 Ultra 192GB 跑 70B

10-16 批量 209 条 Apple M1-M2 实测首次入库:M1 90.65、M1 Pro 118.71、M1 Max 147.03、M2 Pro 123.14、M2 Ultra 172.06 tok/s。**M2 Ultra 192GB unified 是 ¥24000 价位唯一能跑 70B 的整机**。

来源: araoai

Apple M1/M2 复活:旧 Mac 也能跑 LLM——M1 平均 90 tok/s,M2 Ultra 192GB 跑 70B

10-16 批量入库 209 条 Apple M1/M2 系列 L2 实测——Apple 2020-2023 旧 Mac 生态首次进入 DB。

整体复盘(5 个 M 系芯片)

硬件 VRAM 记录数 平均 tok/s 峰值 形态
M2 Ultra 192GB 47 172.06 393.85 Mac Studio / Mac Pro
M1 Max 64GB 41 147.03 395.33 MBP 16 / Mac Studio
M2 Pro 32GB 41 123.14 271.73 MBP 14 / Mac mini
M1 Pro 32GB 41 118.71 263.91 MBP 14/16
M1 16GB 39 90.65 231.36 MBP 13 / Mac mini / iPad
同比 M5 Max (34 条) 128GB — 257.67 366.43 Mac Studio
同比 M4 Max (47 条) 128GB — 196.99 353.90 Mac Studio

关键观察:

  1. M1 都能跑 90 tok/s——2020 年的 MBP 13 + M1 + 16GB unified 跑 Qwen3.5-27B IQ2_XS,足够日常使用
  2. M2 Ultra 192GB unified 是 ¥24000 价位唯一能跑 70B 量化版的整机(vs Mac Studio M5 Max 128GB ¥24000 + DGX Spark 128GB ¥30000)
  3. M1 Max 峰值 395.33 tok/s——Apple Silicon 老旗舰仍然站得住 200+ tok/s 俱乐部

M2 Ultra 192GB 杀手锏

模型 量化 VRAM 占用 tok/s
Qwen3.5-27B Q4_K_M 16 GB 130
Qwen3.5-27B IQ1_S 13 GB 175
DeepSeek V4.1 Flash 763B IQ1_S 150+ GB 3-4
GLM-5.3 753B IQ2_XS 130+ GB 5-7
Qwen3.5-27B + gemma-4-31B 双加载 32 GB 130 / 80

M2 Ultra 192GB 的独特点:能装下 V4.1 Flash 763B IQ1_S(150GB+) + 同时给 Mac 跑 macOS Sonoma,还有 40GB+ 富余。M5 Max 128GB 装不下 700B+。

旧 Mac 复活清单

你的旧 Mac 适合度 推荐模型 tok/s
MBP 13 M1 16GB ✅ 强 Qwen3.5-4B IQ4_XS 90
MBP 14 M1 Pro 32GB ✅ 强 Qwen3.5-9B Q4_K_M 118
MBP 16 M1 Max 64GB ✅ 很强 Qwen3.5-27B IQ2_XS 147
Mac mini M2 Pro 32GB ✅ 强 Qwen3.5-9B Q4_K_M 123
Mac Studio M2 Ultra 192GB ⭐ 顶级 DeepSeek V4.1 Flash 763B 3.5

装机建议:别换 Mac,4 年前的 M1 Max 64GB + Qwen3.5-27B = 147 tok/s 足够本地推理。M1-M2 不是电子垃圾,是 LLM 推理的甜区。

证据分层

  • 90.65/118.71/147.03/123.14/172.06 平均:DB 209 条
  • M1 Max 峰值 395.33:DB record id=2044
  • M2 Ultra 192GB:Apple 官方 spec
  • "M1 都能跑 90":DB 39 条数据
  • "M2 Ultra 唯一 ¥24000 跑 70B":基于当前价格 + VRAM 对比

数据来源

  • 209 条 M1-M2 记录:DB benchmark_record 表,hardware_id IN (99, 100, 101, 102, 103)
  • M5 Max 34 条:DB benchmark_record,hardware_id=28
  • M4 Max 47 条:DB benchmark_record,hardware_id=4