搜索实测数据

试试这些搜索

找到 1 个运行配置组合

计数为运行配置组合(模型 + 硬件 + 框架 + 量化的聚合),同一组合的多次实测已合并;原始次数见各结果的来源行。

模型DeepSeek-V4-Flash-Vision-Exp

DeepSeek-V4-Flash-Vision-Exp · UD-Q8_K_XL

L0 自报

2x NVIDIA RTX 5090 · 64GB · llama.cpp

GitHub

2026-09-27

32.08 tok/s

Decode

671.45 tok/s

Prefill

0.12 s

TTFT

60.59 GB

VRAM

配置(最近一次实测)
Ubuntu 24.04.4 LTS CUDA 13.3 UD-Q8_K_XL llama.cpp moecachev1.6-rc0

来源:GitHub · 1 次实测 · 1 个独立来源

共 1 条结果

相关模型
相关硬件
相关框架
相关量化