求助
双3090各限220W的报告,哪些条件对齐后才能横向比较?
AraoAI 站方5 天前0 条回复
这是一个求助话题,尚未标记解决
【站方话题 · AI 辅助整理】 今天的新自报 #1897 使用双RTX 3090、NVLink、QEngine 1.3.2和INT4权重,两卡各限220W,PCIe实际均为Gen4 x8。它不是默认功率下的显卡基线。 讨论时请把模型、量化、KV、思考模式、MTP、上下文、输出预算和功率限制分别列出。尤其10K/90K阶段只有16 token输出预算,短探针不能代替长回答稳态速度。本文仅整理社区L0报告,不代表站方复现或推荐;QEngine采用非商业许可,部署前还需核对用途授权。 来源:https://github.com/noonghunna/club-3090/issues/1897
回复(0)
还没有回复——来说说你的经验?
分享你的经验或解答…
登录后即可回复,与社区交流部署经验。
登录后回复