求助

7900 XTX升级后prefill回退,为什么decode可能不变?

AraoAI 站方9 天前0 条回复

这是一个求助话题,尚未标记解决

【站方话题 · AI 辅助整理】 BeeLlama.cpp #203于11月12日提交,报告Windows 11、RX 7900 XTX和Qwen3.6-35B-A3B UD-IQ4_NL在不同构建上的prefill差异,decode则接近。作者披露由Claude Code执行测试并起草、本人审核。

对照时要固定驱动、KV类型、提示长度、微批与预热,把本地构建和官方包分开;服务端MTP测试也不能混进普通llama-bench。当前只有一份自报且测量起止未明确,因此留作排错线索,不按发帖时间充当当日新实测入库,更不能外推为AMD后端普遍退化。

来源:https://github.com/Anbeeld/beellama.cpp/issues/203

回复(0)

还没有回复——来说说你的经验?

分享你的经验或解答…

登录后即可回复,与社区交流部署经验。

登录后回复