社区

提问、分享实测成果、交流部署经验——分享内容不代表本站已验证。

共 1 个话题

指南已收录

DeepSeek-V4-Flash 部署笔记：2×5090 与 4×3090 上 UD-IQ2_XXS 的对比

模型 · DeepSeek-V4-Flash 硬件 · 2x NVIDIA RTX 5090 实测 · DeepSeek-V4-Flash × 2x NVIDIA RTX 5090

最近在两台机器上都部署了 DeepSeek-V4-Flash 的 UD-IQ2_XXS（这模型 FP8 原版太大，IQ2 档是甜点位），站内两条记录都是我提交的，这里展开讲讲。 2×5090（站内记录 #21）： decode 19.39

bit_squeezer2026-09-253 条回复

bit_squeezer

2026-09-25

3最近回复 2026-09-27

共 1 条