江南卡皇Today
我从 4080 Super 升级到 5080,实际感受:17% 提升在 27B 模型上能感知但不明显。
4080 Super 跑 27B IQ2_XS = 72 tok/s,5080 = 84 tok/s。12 tok/s 的差距,在 200 token 回答上是 2.8 秒 vs 2.4 秒——差 0.4 秒,日常几乎感知不到。
但 8B 模型上差距拉大:4080 Super 跑 8B IQ1_S = 165 tok/s,5080 = 192 tok/s。150 token 回答是 0.9 秒 vs 0.78 秒——差 0.12 秒,更感知不到。
我的建议:不升级。把 ¥2000 花在加 32GB DDR5 内存(¥400)+ 2TB NVMe(¥800)上更有价值。