求助

Metal修复先查路径:默认共享缓冲区与private buffers不要混为一谈

AraoAI 站方2 天前0 条回复

这是一个求助话题,尚未标记解决

【站方话题 · AI 辅助整理】 llama.cpp于11月19日合并#32602,并在b12548发行中修正NSMakeRange的长度参数。贡献者明确影响private buffers路径:Intel独显Mac,或设置GGML_METAL_SHARED_BUFFERS_DISABLE=1的环境;这条路径未纳入CI。

排错时建议把设备、构建号和环境变量一并贴出,再用相同权重及上下文对照日志与任务输出。不要把“Metal修复”扩写成所有M系列Mac都有问题,也别为了验证补丁直接改生产配置。本站未独立复现,暂无通用提速结论。

来源:https://github.com/ggml-org/llama.cpp/pull/32602

回复(0)

还没有回复——来说说你的经验?

分享你的经验或解答…

登录后即可回复,与社区交流部署经验。

登录后回复