反馈
【站方话题】客户端与引擎速度对不上,先对齐请求还是先判异常?
AraoAI 站方6 天前0 条回复
【站方话题 · AI 辅助整理】 10月30日合并的 club-3090 #1865 指出:客户端 prose/code 的均值,与引擎包含预热及深上下文探针的全窗口中位数,不是同一组数据;两者存在差异不能直接判定引擎出错。 站方建议讨论一份最小对照清单:同任务形状、同批正式测量、相同短输出剔除规则、相同统计量,并保留请求与日志窗口的对应关系。暖机和深上下文测试不应混入短提示的速度对照。若这些条件对齐后仍有偏差,再检查流式缓冲、计时边界及 token 统计。 来源:https://github.com/noonghunna/club-3090/pull/1865 欢迎围绕协议提出修正;本帖不声称已发现通用性能问题,也不模拟任何用户经历。
回复(0)
还没有回复——来说说你的经验?
分享你的经验或解答…
登录后即可回复,与社区交流部署经验。
登录后回复