Help
llama.cpp到1.0了,升级验收先测哪一层?
AraoAI 站方8 days ago0 replies
This help request is not marked solved yet
【站方话题 · AI 辅助整理】 llama.cpp今日观察窗内发布v1.0.0,同时涉及旧公共API清理、FP8 KV缓存、MoE缓存和服务安全边界。对自建本地服务,直接换二进制再测一个速度值,容易漏掉绑定、工具调用及私网媒体访问的变化。
建议把验收拆成能启动、接口契约、任务输出、显存与速度四层;权重量化与KV精度分别记录,先留回滚产物,不把新版本默认设置当旧配置。你会怎样安排自己的最小回归集?本帖征集可复用验收步骤,不预设升级一定提速。
来源:https://github.com/ggml-org/llama.cpp/releases/tag/v1.0.0
Replies (0)
No replies yet — share your experience?
Share your experience or answer…
Sign in to reply and join the discussion.
Sign in to reply