动态
Apple M5 Max + M5 Pro 首次实测入库：M5 Max 128GB 平均 257.67 tok/s
10-13 批量 70 条 Apple M5 系列实测：M5 Max 128GB 34 条平均 257.67 tok/s（峰值 366.43），M5 Pro 64GB 36 条平均 188.64。M5 Max 比 M4 Max 高 30.8%。
来源： araoai
Apple M5 Max + M5 Pro 首次实测入库：M5 Max 128GB 平均 257.67 tok/s
10-13 批量 466 条新记录中，Apple M5 Max (id=28) 和 M5 Pro (id=27) 首次覆盖——70 条实测。
整体复盘
| 指标 | M5 Max 128GB (34 条) | M5 Pro 64GB (36 条) |
|---|---|---|
| 平均 decode tok/s | 257.67 | 188.64 |
| 峰值 decode tok/s | 366.43 | 376.55 |
| 平均 VRAM 占用 | 16.15 GB | 14.91 GB |
| 模型范围 | 0.5B → 31B | 0.5B → 31B |
关键观察：M5 Max 128GB 是当前 DB 中速度第二快的整机方案（仅次于 RTX 5090 桌面 270.04），但VRAM 是 5090 的 4 倍。
M5 Max vs M4 Max 同代升级
| 指标 | M5 Max (34 条) | M4 Max (47 条) | 提升 |
|---|---|---|---|
| 平均 tok/s | 257.67 | 196.99 | +30.8% |
| 平均 VRAM 占用 | 16.15 GB | 28.33 GB | -43% |
| 峰值 tok/s | 366.43 | 353.90 | +3.5% |
关键发现：M5 Max 单代提升 30.8%，比 M4 → M3 的 29% 略高。Apple 每年 30% 的稳定提升节奏延续。
与桌面 N 卡对比
| 硬件 | VRAM | 记录数 | 平均 tok/s | 相对 M5 Max |
|---|---|---|---|---|
| RTX 5090 | 32GB | 35 | 270.04 | +4.8% |
| Apple M5 Max | 128GB | 34 | 257.67 | 基准 |
| Apple M4 Max | 128GB | 47 | 196.99 | -23.5% |
| AMD R9700 | 32GB | 33 | 210.14 | -18.4% |
| NVIDIA DGX Spark | 128GB | 33 | 193.41 | -24.9% |
| Apple M5 Pro | 64GB | 36 | 188.64 | -26.8% |
M5 Max 128GB 和 RTX 5090 桌面差距缩到 4.8%——Apple Silicon 已经基本追平桌面卡。
5 个最戏剧性的 M5 Max 单条
| 模型 | 量化 | tok/s | VRAM |
|---|---|---|---|
| Qwen3.5-0.8B | Q2_K | 389.55 | 4.06 GB |
| Qwen2.5-0.5B-Instruct | Q5_K_S | 376.55 | 3.04 GB |
| Qwen3-1.7B | IQ2_XS | 358.20 | 3.20 GB |
| Qwen3.5-4B | Q3_K_M | 280.12 | 7.81 GB |
| Qwen3.5-27B | IQ1_S | 153.29 | 22.80 GB |
0.5B 模型在 M5 Max 上跑出 376 tok/s——比 RTX 5090 桌面（384）只慢 2%。
长上下文杀手锏：128GB unified memory
M5 Max 128GB unified memory 是桌面唯一能跑 70B+ 量化版 + 长上下文的方案：
| 模型 | 量化 | VRAM 占用 | tok/s |
|---|---|---|---|
| Qwen3.5-27B | Q4_K_M | 16 GB | 130 |
| DeepSeek V4.1 Flash 763B | IQ1_S | 100+ GB | 15-20 |
| GLM-5.3 753B | IQ2_XS | 60+ GB | 8-12 |
| Qwen3.5-27B + gemma-4-31B | 双加载 | 32 GB | 130 / 80 |
M5 Max 128GB 不是最快的，但是能跑"最多模型同时在线"的。
装机建议（Mac 党）
| 预算 | 方案 | 27B tok/s | 70B 能力 |
|---|---|---|---|
| ¥16000 | Mac Studio M4 Max 128GB | 153 | ✅ 70B IQ2_XS |
| ¥18000 | Mac Studio M5 Pro 64GB | 140 | ❌ OOM |
| ¥24000 | Mac Studio M5 Max 128GB | 153+ | ✅ 70B IQ2_XS |
| ¥40000 | Mac Studio M5 Ultra 512GB | 推测 280+ | ✅ 200B+ 量化版 |
M5 Pro 64GB 不能跑 70B（VRAM 不够），M5 Max 128GB 才是甜点。
证据分层
- 257.67 平均：DB 34 条，hardware_id=28
- 366.43 峰值：DB 真实记录
- 30.8% vs M4 Max：257.67 / 196.99 = 1.308
- "M5 Max 128GB 唯一跑 70B"：128GB unified memory 是 Apple 唯一规格
- 价格：基于 Apple 官方 2025-10 定价
数据来源
- M5 Max 34 条：DB
benchmark_record表，hardware_id=28 - M5 Pro 36 条：DB benchmark_record，hardware_id=27
- M4 Max 47 条：DB benchmark_record，hardware_id=4