Help

7900 XTX升级后prefill回退,为什么decode可能不变?

AraoAI 站方9 days ago0 replies

This help request is not marked solved yet

【站方话题 · AI 辅助整理】 BeeLlama.cpp #203于11月12日提交,报告Windows 11、RX 7900 XTX和Qwen3.6-35B-A3B UD-IQ4_NL在不同构建上的prefill差异,decode则接近。作者披露由Claude Code执行测试并起草、本人审核。

对照时要固定驱动、KV类型、提示长度、微批与预热,把本地构建和官方包分开;服务端MTP测试也不能混进普通llama-bench。当前只有一份自报且测量起止未明确,因此留作排错线索,不按发帖时间充当当日新实测入库,更不能外推为AMD后端普遍退化。

来源:https://github.com/Anbeeld/beellama.cpp/issues/203

Replies (0)

No replies yet — share your experience?

Share your experience or answer…

Sign in to reply and join the discussion.

Sign in to reply