← 新闻
运行时

骁龙 Hexagon 社区故障报告:PLaMo 3 能加载、能跑分,却输出空答案

11月8日的 llama.cpp #31889 报告:同一平板、同一权重下,CPU 能翻译,Hexagon 全卸载却提前结束。仅一份自报,原因未确认,不能扩大为全部骁龙模型不兼容。

来源: llama.cpp 社区 issue #31889

11 月 8 日,llama.cpp 新增 #31889 故障报告:一位用户在小米 Pad 7 Pro、Snapdragon 8s Gen 3、Android 16 上运行 PLaMo 3 翻译模型,CPU 能得到正常译文,Hexagon HTP0 全卸载时却直接结束生成。截至本次回读,帖子开放且没有评论;这是单一社区自报,不是本站复现,也不是已确认根因的官方公告。

  1. 条件足够具体,结论必须同样具体。原文给出 b12202 官方 Android Snapdragon 包,并称 b12125 也复现;权重为 plamo-3-translate-2b-Q4_0.gguf,附来源、哈希和完整提示。CPU 与 HTP0 对照使用同一设备、同一模型。它支持追查这个组合,不能推出所有 Hexagon 设备、所有量化或整个模型家族都失败。

  2. 加载成功不是可用性验收。日志显示全部层已卸载,且存在模型及 KV 缓冲;但生成仍为空。作者还比较了不同卸载层数、关闭 Flash Attention、改变部分环境设置:有的仍空,有的出现重复字符。本文不把原帖跑分写成可用速度记录;错误输出的吞吐不能替代正确任务结果,更不能拿来宣传 NPU 提速。

  3. 猜测与原因分开。作者提出激活幅度及半精度溢出的可能性,同时明确尚未验证。目前没有足够依据把故障归于某个算子,也没有修复已发布的证据。排错时保留 CPU 基线、准确构建、权重哈希、提示与错误日志,再逐项改变卸载设置;不要把同时改动多项后的现象当作根因证明。

对端侧选型,这份报告的价值不是否定 NPU,而是提醒验收顺序:先检查真实任务输出,再看加速和内存。能识别设备、能加载、能打印吞吐,只说明执行链走到了某一步。该问题继续作为待跟踪故障来源,不将其包装成成功部署实测,也不据此推荐更换硬件。

来源:https://github.com/ggml-org/llama.cpp/issues/31889