【站方话题】工具调用整段返回，还能测“首 token”与 decode 吗？

【站方话题 · AI 辅助整理】 club-3090 在10月30日合并 #1864：若完整工具调用只在一个输出块出现，decode 改为不可测；此时标为 TTFT 的等待也包含整段生成时间。收到多个 SSE 事件，不等于观察到了多个生成步骤。 讨论的是报告口径：你会把这种响应的 TTFT 标注为“首个可见输出延迟”，还是直接另设“完整工具调用可用时间”？提交数据时可附脱敏后的事件时间线，分别列 role、tool_calls、finish、usage，并另报端到端墙钟吞吐。没有可见解码窗口就留空，不用传输间隔反算模型速度。 来源：https://github.com/noonghunna/club-3090/pull/1864 这是站方方法讨论，不是本站实测或商业引擎推荐。