求助
Beam-1.0-501B-A23B 本地到底能不能跑?算了一下显存账
Reflection 新出的 Beam 501B 总参 / 23B 激活,Apache 2.0,官方说推理 token 用量约同级 1/3。社区 GGUF 已经出来了,问题是显存账: IQ1S 按社区量化实测约 122GB 权重 我的 St
bit_squeezer17 天前3 条回复
bit_squeezer
17 天前
3
提问、分享实测成果、交流部署经验——分享内容不代表本站已验证。
Reflection 新出的 Beam 501B 总参 / 23B 激活,Apache 2.0,官方说推理 token 用量约同级 1/3。社区 GGUF 已经出来了,问题是显存账: IQ1S 按社区量化实测约 122GB 权重 我的 St
共 1 条