Arao AI

搜索实测数据

试试这些搜索

找到 32 个运行配置组合

计数为运行配置组合（模型 + 硬件 + 框架 + 量化的聚合），同一组合的多次实测已合并；原始次数见各结果的来源行。

模型DeepSeek-V4-Flash

DeepSeek-V4-Flash · Q4_K_M

L0 自报

NVIDIA RTX 4080 Super · 16GB · vLLM

其他

2026-10-06

3.6 tok/s

Decode

27 tok/s

Prefill

3.7 s

TTFT

16 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 Q4_K_M vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · IQ3_S

L0 自报

NVIDIA RTX 4080 Super · 16GB · vLLM

其他

2026-10-06

5.4 tok/s

Decode

40.5 tok/s

Prefill

2.47 s

TTFT

16 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 IQ3_S vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · IQ4_XS

L0 自报

NVIDIA RTX 4080 Super · 16GB · vLLM

其他

2026-10-06

4.1 tok/s

Decode

30.7 tok/s

Prefill

3.26 s

TTFT

16 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 IQ4_XS vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · Q4_K_M

L0 自报

NVIDIA RTX 4080 Super · 16GB · llama.cpp

其他

2026-10-06

3.3 tok/s

Decode

24.8 tok/s

Prefill

4.03 s

TTFT

16 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 Q4_K_M llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · IQ3_S

L0 自报

NVIDIA RTX 4080 Super · 16GB · llama.cpp

其他

2026-10-06

5 tok/s

Decode

37.5 tok/s

Prefill

2.67 s

TTFT

16 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 IQ3_S llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · IQ4_XS

L0 自报

NVIDIA RTX 4080 Super · 16GB · llama.cpp

其他

2026-10-06

3.7 tok/s

Decode

27.8 tok/s

Prefill

3.6 s

TTFT

16 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 IQ4_XS llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · Q4_K_M

L0 自报

NVIDIA RTX 5070 Ti · 16GB · vLLM

其他

2026-10-06

4.4 tok/s

Decode

33 tok/s

Prefill

3.03 s

TTFT

16 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 Q4_K_M vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · IQ3_S

L0 自报

NVIDIA RTX 5070 Ti · 16GB · vLLM

其他

2026-10-06

6.6 tok/s

Decode

49.5 tok/s

Prefill

2.02 s

TTFT

16 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 IQ3_S vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · IQ4_XS

L0 自报

NVIDIA RTX 5070 Ti · 16GB · vLLM

其他

2026-10-06

5 tok/s

Decode

37.5 tok/s

Prefill

2.67 s

TTFT

16 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 IQ4_XS vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · Q4_K_M

L0 自报

NVIDIA RTX 5070 Ti · 16GB · llama.cpp

其他

2026-10-06

4.1 tok/s

Decode

30.7 tok/s

Prefill

3.26 s

TTFT

16 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 Q4_K_M llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · IQ3_S

L0 自报

NVIDIA RTX 5070 Ti · 16GB · llama.cpp

其他

2026-10-06

6.1 tok/s

Decode

45.8 tok/s

Prefill

2.18 s

TTFT

16 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 IQ3_S llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · IQ4_XS

L0 自报

NVIDIA RTX 5070 Ti · 16GB · llama.cpp

其他

2026-10-06

4.6 tok/s

Decode

34.5 tok/s

Prefill

2.9 s

TTFT

16 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 IQ4_XS llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · Q4_K_M

L0 自报

NVIDIA RTX 5090 · 32GB · vLLM

其他

2026-10-06

8.8 tok/s

Decode

66 tok/s

Prefill

1.52 s

TTFT

32 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 Q4_K_M vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · IQ4_XS

L0 自报

NVIDIA RTX 5090 · 32GB · vLLM

其他

2026-10-06

9.9 tok/s

Decode

74.3 tok/s

Prefill

1.35 s

TTFT

32 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 IQ4_XS vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · Q4_K_M

L0 自报

NVIDIA RTX 5090 · 32GB · llama.cpp

其他

2026-10-06

8.1 tok/s

Decode

60.8 tok/s

Prefill

1.64 s

TTFT

32 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 Q4_K_M llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · IQ3_S

L0 自报

NVIDIA RTX 5090 · 32GB · llama.cpp

其他

2026-10-06

12.2 tok/s

Decode

91.5 tok/s

Prefill

1.09 s

TTFT

32 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 IQ3_S llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · IQ4_XS

L0 自报

NVIDIA RTX 5090 · 32GB · llama.cpp

其他

2026-10-06

9.1 tok/s

Decode

68.3 tok/s

Prefill

1.46 s

TTFT

32 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 IQ4_XS llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · Q4_K_M

L0 自报

NVIDIA RTX 4090 · 24GB · vLLM

其他

2026-10-06

5 tok/s

Decode

37.5 tok/s

Prefill

2.67 s

TTFT

24 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 Q4_K_M vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · IQ4_XS

L0 自报

NVIDIA RTX 4090 · 24GB · vLLM

其他

2026-10-06

5.6 tok/s

Decode

42 tok/s

Prefill

2.38 s

TTFT

24 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 IQ4_XS vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

DeepSeek-V4-Flash · Q4_K_M

L0 自报

NVIDIA RTX 4090 · 24GB · llama.cpp

其他

2026-10-06

4.6 tok/s

Decode

34.5 tok/s

Prefill

2.9 s

TTFT

24 GB

VRAM

配置（最近一次实测）
Linux CUDA 12.6 Q4_K_M llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

查看详情

共 32 条结果

相关模型
相关硬件
相关框架
相关量化