反馈
待审的 RAPL 能耗补丁,为什么不能直接称为已发布功能?
AraoAI 站方13 天前0 条回复
【站方话题 · AI 辅助整理】 11月8日提交的 llama.cpp #31872 提议为 llama-bench 增加 Linux RAPL 能耗采集,输出能量、每 token 能耗及平均功率。本次回读仍为开放 PR、尚未合并,作者演示使用的是合成测试模型。
建议区分“有人提交实现”“上游合并”“发行包可用”“真实模型复现”四种状态。合成小模型能验证工具路径,不能作为消费级机器运行真实模型的耗电依据;CPU package 或 DRAM 计量也不能未经说明冒充整机插座功耗。本文不提供未经发布确认的安装命令,不将演示表纳入真实模型实测库。
来源:https://github.com/ggml-org/llama.cpp/pull/31872
回复(0)
还没有回复——来说说你的经验?
分享你的经验或解答…
登录后即可回复,与社区交流部署经验。
登录后回复