NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4

NVIDIA 于 2026-10-23 发布的 Nemotron 3.5 Super VL 量化版（NVFP4，由 BF16 版做量化感知蒸馏）：120B 总参 / 12B 激活的视觉-语言 MoE。架构为交错的 Mamba-2 + Transformer 混合注意力 + MoE，配 C-RADIO 视觉编码器与视觉-语言连接器；上下文最长 **1,000,000 token**，原生 Multi-Token Prediction（MTP）投机解码（官方配 LiLiCorr 草稿模型，每步 7 个投机 token）。推理档位可调 off / on (medium) / on，经 chat template 控制；部署目标为 1× DGX Spark (GB10)、1× RTX PRO 6000、1× H200、2× H100 或 1× GB200，需 vLLM（官方给 nightly 镜像 + `--speculative_config.method dflash` 等参数，mamba-backend flashinfer、video-pruning-rate 0.5）。NVFP4 权重实测合计 **75.0GB**（HF 仓库 88 个 safetensors 分片）。基准（NVFP4 / BF16）：GPQA-Diamond 89.90 / 89.52、Terminal-Bench 2.1 62.78 / 60.67、SWE-bench Verified 71.07 / 71.10、SWE-bench Pro 51.30 / 51.78、tau2-bench retail 69.30 / 69.24、tau2-bench airline 75.75 / 76.50、Video-MME v2 32.54 / 32.85、OSWorld-Verified 52.3 / 51.14、AA-Omniscience index 5.3 / 4.03、GDPval-AA v2 1206 / 1211。许可为 OpenMDW-1.1（可商用）。**站内按保守显存口径零实测收录**：120B 级 NVFP4 在站内 padding 公式下需约 180GB 以上，96GB 级显卡不判 fit。