RTX 3060 12GB 跑 Llama-3.2-3B = 195 tok/s——2020 年的卡还能战几年？

3060 12GB 跑 3B = 195 tok/s 做代码补全完全够用——VSCode + Continue 插件的补全延迟 <100ms，感知不到。

8B IQ1_S 在 3060 上大约 75-85 tok/s（因为 8B IQ1_S 需要 6GB VRAM，3060 12GB 带宽 360GB/s 是瓶颈）。日常对话够用，但不如 16GB 卡流畅。

建议：3060 12GB 再战 2 年没问题。如果 2028 年还想跑 8B+，再考虑换卡。现在 ¥3200 买 5060 Ti 16GB 不如等 RTX 6060（2027 年）。

我 3060 12GB 跑了 6 个月，实际体验：

• 3B Q4_K_M：195 tok/s，代码补全流畅
• 8B IQ1_S：80 tok/s，对话能用但不如 16GB 卡
• 8B Q4_K_M：65 tok/s，勉强能跑但 VRAM 10.5GB 接近上限

瓶颈不是 GPU 计算，是 VRAM 容量和带宽。12GB 只能跑 8B 以下，27B 完全装不下。

如果你只跑 3B，3060 够了。想跑 8B 以上，需要 16GB+ 卡。