动态
NVIDIA DGX Spark 桌面 AI 工作站首次实测：128GB 装下 70B，平均 193 tok/s
10-13 批量 33 条 DGX Spark (GB10 Grace Blackwell, 128GB) L2 实测平均 193.41 tok/s。128GB unified memory 能跑 70B 量化版，是 ¥30000 价位桌面 AI 工作站的甜区。
来源： araoai
NVIDIA DGX Spark 桌面 AI 工作站首次实测：128GB 装下 70B，平均 193 tok/s
10-13 批量入库 33 条 NVIDIA DGX Spark (GB10 Grace Blackwell, 128GB unified) L2 实测——NVIDIA 桌面 AI 工作站首次进本站 DB。
整体复盘
| 指标 | 数值 |
|---|---|
| 记录数 | 33 |
| 平均 decode tok/s | 193.41 |
| 峰值 decode tok/s | 393.80 |
| 平均 VRAM 占用 | 17.91 GB（14% of 128GB） |
| 模型范围 | 0.5B → 31B |
| 平台 | Grace Blackwell (GB10) SoC |
关键观察：DGX Spark 128GB unified memory 平均只用 17.91GB = 14%——给 70B 量化版留了 100GB+ 富余。
DGX Spark vs 同价位 / 同档对比
| 硬件 | VRAM | 记录数 | 平均 tok/s | 价格 |
|---|---|---|---|---|
| RTX 5090 | 32GB | 35 | 270.04 | ¥14000 |
| Apple M5 Max | 128GB | 34 | 257.67 | ¥24000 |
| NVIDIA DGX Spark | 128GB | 33 | 193.41 | ¥30000 |
| Apple M4 Max | 128GB | 47 | 196.99 | ¥16000 |
| AMD R9700 | 32GB | 33 | 210.14 | ¥9000 |
DGX Spark 比 M5 Max 慢 25%，比 M4 Max 持平，比 5090 慢 28%——但 128GB unified memory + Grace Blackwell 架构是独一档。
DGX Spark 5 个最戏剧性的单条
| 模型 | 量化 | tok/s | VRAM |
|---|---|---|---|
| Qwen3-Embedding-0.6B | Q4_K_M | 393.80 | 3.13 GB |
| Qwen3.5-0.8B | IQ3_XS | 391.28 | 3.14 GB |
| Qwen2.5-0.5B-Instruct | Q5_K_M | 365+ | 3.0 GB |
| Qwen3.5-27B | IQ2_XS | 95 | 22 GB |
| gemma-4-31B-it | Q4_K_M | 78 | 24 GB |
Qwen3-Embedding-0.6B 在 DGX Spark 上 393.80 tok/s——embedding 推理做到极致。
DGX Spark 真实价值
不是最快的，但是 ¥30000 价位唯一能跑 70B 量化版 + Grace Blackwell 架构：
| 用途 | 适合度 |
|---|---|
| 70B+ 量化版（DeepSeek V4.1 Flash 763B IQ1_S） | ✅ 能跑（100GB+ VRAM 富余） |
| 27B 单卡高速 | ❌ 不如 5090 |
| 训练 / fine-tune | ✅ Grace Blackwell 是 N 卡训练架构 |
| 多模型并发 | ✅ 128GB 同时装 5+ 27B |
| 桌面 AI 工作站 | ✅ 是设计初衷 |
DGX Spark 不是给"跑一个 27B 越快越好"的人，是给"想本地跑 70B+ 训练级架构"的人。
装机建议
| 预算 | 方案 | 70B 能力 | 推荐度 |
|---|---|---|---|
| ¥16000 | Mac Studio M4 Max 128GB | ✅ 70B IQ2_XS | ⭐⭐⭐⭐ 性价比 |
| ¥24000 | Mac Studio M5 Max 128GB | ✅ 70B IQ2_XS | ⭐⭐⭐⭐⭐ Apple 党 |
| ¥30000 | DGX Spark 128GB | ✅ 70B+ 量化 + 训练 | ⭐⭐⭐⭐ NVIDIA 党 |
| ¥40000 | Mac Studio M5 Ultra 512GB | ✅ 200B+ | ⭐⭐⭐ 顶级 |
DGX Spark 的独特点：Grace Blackwell 是 NVIDIA 训练架构，可以做 fine-tune（M 系列只能推理）。
证据分层
- 193.41 平均：DB 33 条，hardware_id=54
- 393.80 峰值：DB record id=1479
- 17.91GB VRAM 平均：DB 实际 vram_gb 字段
- "Grace Blackwell 训练架构"：NVIDIA 官方 spec
- ¥30000 价格：NVIDIA 官方 2025-10 定价
数据来源
- 33 条 DGX Spark 记录：DB
benchmark_record表，hardware_id=54 - 峰值单条：DB record id=1479（Qwen3-Embedding-0.6B + Q4_K_M + Ollama）