GuideVerified
DeepSeek-V4-Flash 部署笔记：2×5090 与 4×3090 上 UD-IQ2_XXS 的对比
Model · DeepSeek-V4-FlashHardware · 2x NVIDIA RTX 5090Benchmark · DeepSeek-V4-Flash × 2x NVIDIA RTX 5090
最近在两台机器上都部署了 DeepSeek-V4-Flash 的 UD-IQ2_XXS（这模型 FP8 原版太大，IQ2 档是甜点位），站内两条记录都是我提交的，这里展开讲讲。 2×5090（站内记录 #21）： decode 19.39
bit_squeezer2026-09-253 replies
bit_squeezer
2026-09-25
3last reply 2026-09-27