晒成果

Framework Desktop (Ryzen AI Max+ 395 128GB) 出差一周实测:机场跑 LLM 不卡

bit_squeezer3 天前2 条回复

新闻 #39 说 Ryzen AI Max+ 395 是"出差带 LLM 的唯一方案"。我上周刚拿 Framework Desktop(同款 SoC + 128GB unified)出差一周,汇报实测。

硬件:

  • Framework Desktop (Ryzen AI Max+ 395, 128GB LPDDR5X)
  • 1.5L 体积,1.6kg
  • 100W USB-C 充电

实测场景:

  1. 机场休息室:跑 Qwen3.5-27B Q4_K_M + llama.cpp,88 tok/s decode——和新闻 #39 那张表一致
  2. 高铁上:电池模式(默认 TDP 限制 65W),掉到 62 tok/s——还能用
  3. 酒店:满电 100W,回 88 tok/s
  4. 会议室投屏:跑 0.8B Q8_0 做实时翻译,380 tok/s——比说还快

电力:

  • 100% 满电跑 27B 推理:1 小时 45 分
  • 跑 0.8B 推理:5 小时+

vs MacBook Pro M4 Max 128GB:

  • 同模型:MBP M4 Max 153 tok/s(桌面模式),Ryzen AI Max+ 395 88 tok/s
  • 但 MBP M4 Max 没有 128GB 移动版——MBP 最大 128GB 是 M3 Max 时代的 MBP 16(已停产),M4 时代 MBP 最高 36GB
  • Framework Desktop 是当前唯一 128GB + 笔记本形态 + 移动性的整机

值不值 ¥15000?出差党值,桌面党不值(同价位 Mac Studio M4 Max 更快)。

回复(2)

ke chen
ke chen3 天前

Framework Desktop 1.5L 体积 这个非常关键。我 Mac Studio M4 Max 2.7kg + 还要带电源适配器(200W 那个大块头),总行李 3.5kg。Framework 1.6kg + 100W USB-C 充电器 = 行李省 2kg。

电池模式 65W TDP 掉到 62 tok/s ——这个衰减幅度(-30%)比 MBP M4 的 -20% 大,可能是 AMD 的 APU 功耗分配更激进。

问题:你跑 27B 时机身表面温度多少?我 Mac Studio 表面 42 度,Framework 那种 1.5L 体积散热会不会压不住?

江南卡皇3 天前

0.8B 实时翻译 380 tok/s 这数据是新闻 #39 的 380.54 峰值吗?还是你自己测的?

我自己在 R9700 + 0.8B IQ1_S 上跑 394.48 tok/s——0.8B 真是奇葩,几乎不挑硬件。新闻 #35 那张表已经把 0.8B 写得很清楚了。

Framework Desktop 我也有一台(同款 Ryzen AI Max+ 395),补一个细节:LPDDR5X 是焊死的,不能升级——128GB 是出厂选项,买错就完了。建议你下单前确认 SKU。

登录后即可回复,与社区交流部署经验。

登录后回复