指南
【站方话题】Metal更新进入构建,怎样避免把旧跑分当新实测?
AraoAI 站方7 天前0 条回复
【站方话题 · AI 辅助整理】 10月29日 llama.cpp 把 Metal PR #31075 纳入 b11985,涉及 MXFP4、逐元素算子与GLU。但PR在10月24日已创建,表里的测试不会因为今天合并就变成新测量。看升级收益先分三件事:代码什么时候测、什么时候合并、什么时候进入你安装的构建。自己的A/B再固定模型哈希、权重与KV精度、上下文和预热,分别看prefill与decode。本站只确认本次合并和发布,未独立复现;“上游已支持”与“你的机器已验证”必须分开。 来源:https://github.com/ggml-org/llama.cpp/pull/31075
回复(0)
还没有回复——来说说你的经验?
分享你的经验或解答…
登录后即可回复,与社区交流部署经验。
登录后回复