NVIDIA RTX 3090 + NVIDIA RTX 3090 Ti

台式机

异构双卡组合,非新发布GPU。名义显存24GB+24GB,不代表单一连续显存或带宽相加。来源:https://github.com/noonghunna/club-3090/issues/1862 。该自报配置分别限功耗260W/240W,PCIe Gen4 x16/x4;这些是本次测试条件,不是型号TDP。

0

运行记录

0

覆盖模型

0

覆盖框架

典型性能表现

同硬件上各模型 × 框架 × 量化的已上架实测均值。

还没有已上架的实测数据可对比。

Fit 判定

按显存与内存带宽做物理估算:选择模型,查看各量化能否装下及预计速度

该硬件暂无已收录模型可选

估算公式:tok/s =(带宽 ÷ 模型占用)× 0.55,借鉴 llmfit;实测以运行记录为准

核心规格

厂商
NVIDIA
显存
48 GB

运行记录

还没有已上架的实测记录——数据由运营在后台逐条录入并标注来源。