晒成果
DeepSeek-R1-Distill-Qwen-14B + RTX 4070 12GB + Q5_K_M：R1 推理能力下放到 12G 卡
新闻 #40 把 R1-Distill-14B 推上 12-16GB 卡甜区。我昨晚在 RTX 4070 12GB 上跑了一晚上，汇报。 硬件： RTX 4070 12GB（不是 Ti，普通版） 64GB DDR5 NVMe 4.0 2TB
matrix_w21 天前2 条回复
matrix_w
21 天前
2最近回复 21 天前
社区
提问、分享实测成果、交流部署经验——分享内容不代表本站已验证。
共 1 个话题
共 1 条