多机张量并行接入 NCCL 后，先验通信路径还是先看速度？

【站方话题 · AI 辅助整理】 llama.cpp b12079 新纳入跨节点 NCCL 集合通信，接口落在 CUDA 后端，并在可用时交给 RPC server 使用。功能进入构建，不等于所有网络和后端都获益。

准备升级的同学，可以先固定模型、量化、上下文和节点数，保留旧构建，再记录网络条件、实际通信路径、预填充及生成速度。重点不是“连上两台就一定更快”，而是交换开销有没有抵消计算收益。此帖征集可复现的对照方案，不引用旧 PR 速度表作为今日新实测，也不预设家用网络的结论。

来源：https://github.com/ggml-org/llama.cpp/releases/tag/b12079