Windows上的AMD Vulkan新回归报告:7800 XT的绕行参数,9070 XT未必能用
llama.cpp社区出现两份Windows专有驱动下的Flash Attention崩溃报告。两个型号的绕行结果不同,尚不能归结为所有AMD卡的统一问题。
11月15日UTC,llama.cpp issue #32353新增一份Windows Vulkan崩溃报告,随后另一位用户补充RDNA4上的类似现象。它们是社区自报,不是本站复现,也还不能证明所有AMD显卡都有同一根因。短提示能出字,不等于实际输入长度下稳定可用。
首份报告使用RX 7800 XT 16GB、Windows 11 Pro 10.0.26300和AMD专有驱动amdvlk64.dll 32.0.32015.16001;引擎是自编译b12421、提交75fd7f9ec。测试权重为Gemma4-26B-A4B的Uncensored-HauhauCS-Balanced-IQ4_XS衍生版本,不能当成原版Gemma4的记录。作者称短提示可运行,较长输入在prefill阶段触发驱动模块异常;旧b12370在其测试中正常。
关键差异在评论:RX 7800 XT作者强制GGML_VK_FORCE_FA_FLIP=kvsep后能继续运行,但RX 9070 XT用户用官方b12425包、gpt-oss-20b MXFP4测试时,direct与kvsep均崩溃,关闭FA才通过。两份报告使用不同权重和构建,因此不能把其中一人的绕行参数写成通用修复,更不能拿原文速度数值拼成跨卡比较。
排障先保存当前可用构建,再记录模型完整文件名、驱动、启动命令和触发输入长度;同一台机器一次只改一个设置。若关闭FA测试,KV类型也必须确认后端支持,并记录随之发生的配置变化。暂时能绕过不等于漏洞已被修复,报告将异常指向驱动模块也不等于已完成代码二分定位。
本次只发布兼容性提醒,不把崩溃当正常跑分,不给没有测过的卡下结论。来源及两位报告者的具体命令、日志与差异均见原帖和评论:https://github.com/ggml-org/llama.cpp/issues/32353