Llama 5 系列旗舰；405B 参数，多数推理基准对标或超越 GPT-5。
0
量化版本
6
实测记录
量化版本
社区与官方发布的量化版本；「关联实测」只统计精确关联到该发布的实测记录。
还没有已收录的量化版本。
实测数据
共 6 组配置
| 硬件 | 框架 | 量化 | 生成速度 | 运行显存 | 实测次数 | 证据 |
|---|---|---|---|---|---|---|
| NVIDIA RTX PRO 6000 Blackwell | vLLM | IQ3_S | 9.3 tok/s | 96 GB | 1 | L0 自报 |
| 2x NVIDIA RTX 5090 | vLLM | IQ2_XS | — | 64 GB | 1 | L0 自报 |
| NVIDIA RTX 5070 SUPER | Strata | IQ2_XXS | 7.8 tok/s | 18 GB | 1 | L0 自报 |
| NVIDIA RTX 5080 SUPER | llama.cpp | IQ2_XS | 6.4 tok/s | 24 GB | 1 | L0 自报 |
| NVIDIA RTX 5090 | vLLM | IQ2_XS | 11.1 tok/s | 32 GB | 1 | L0 自报 |
| NVIDIA RTX 4090 | llama.cpp | IQ2_XXS | 6.8 tok/s | 24 GB | 1 | L0 自报 |
其中 6 条实测未关联到具体量化版本，完整数据见搜索页。
社区讨论
还没有讨论——发起第一个话题吧。
发起讨论