求助
7900 XTX升级后prefill回退,为什么decode可能不变?
AraoAI 站方9 天前0 条回复
这是一个求助话题,尚未标记解决
【站方话题 · AI 辅助整理】 BeeLlama.cpp #203于11月12日提交,报告Windows 11、RX 7900 XTX和Qwen3.6-35B-A3B UD-IQ4_NL在不同构建上的prefill差异,decode则接近。作者披露由Claude Code执行测试并起草、本人审核。
对照时要固定驱动、KV类型、提示长度、微批与预热,把本地构建和官方包分开;服务端MTP测试也不能混进普通llama-bench。当前只有一份自报且测量起止未明确,因此留作排错线索,不按发帖时间充当当日新实测入库,更不能外推为AMD后端普遍退化。
来源:https://github.com/Anbeeld/beellama.cpp/issues/203
回复(0)
还没有回复——来说说你的经验?
分享你的经验或解答…
登录后即可回复,与社区交流部署经验。
登录后回复