搜索实测数据

试试这些搜索

找到 30 个运行配置组合

计数为运行配置组合（模型 + 硬件 + 框架 + 量化的聚合），同一组合的多次实测已合并；原始次数见各结果的来源行。

模型Qwen3-30B-A3B

Qwen3-30B-A3B · Q8_0

L0 自报

NVIDIA RTX 5080 SUPER · 24GB · vLLM

其他

今天

29.4 tok/s

Decode

220.5 tok/s

Prefill

0.45 s

TTFT

24 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q8_0 vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q5_K_M

L0 自报

NVIDIA RTX 5080 SUPER · 24GB · vLLM

其他

今天

42.7 tok/s

Decode

320.3 tok/s

Prefill

0.31 s

TTFT

22.8 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q5_K_M vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q4_K_M

L0 自报

NVIDIA RTX 5080 SUPER · 24GB · vLLM

其他

今天

52.3 tok/s

Decode

392.3 tok/s

Prefill

0.25 s

TTFT

18.7 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q4_K_M vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q8_0

L0 自报

NVIDIA RTX 5080 SUPER · 24GB · llama.cpp

其他

今天

27 tok/s

Decode

202.5 tok/s

Prefill

0.49 s

TTFT

24 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q8_0 llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q5_K_M

L0 自报

NVIDIA RTX 5080 SUPER · 24GB · llama.cpp

其他

今天

39.2 tok/s

Decode

294 tok/s

Prefill

0.34 s

TTFT

22.8 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q5_K_M llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q4_K_M

L0 自报

NVIDIA RTX 5080 SUPER · 24GB · llama.cpp

其他

今天

48 tok/s

Decode

360 tok/s

Prefill

0.28 s

TTFT

18.7 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q4_K_M llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q8_0

L0 自报

NVIDIA RTX 5070 SUPER · 18GB · vLLM

其他

今天

23.5 tok/s

Decode

176.3 tok/s

Prefill

0.57 s

TTFT

18 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q8_0 vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q5_K_M

L0 自报

NVIDIA RTX 5070 SUPER · 18GB · vLLM

其他

今天

34.2 tok/s

Decode

256.5 tok/s

Prefill

0.39 s

TTFT

18 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q5_K_M vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q4_K_M

L0 自报

NVIDIA RTX 5070 SUPER · 18GB · vLLM

其他

今天

41.8 tok/s

Decode

313.5 tok/s

Prefill

0.32 s

TTFT

18 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q4_K_M vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q8_0

L0 自报

NVIDIA RTX 5070 SUPER · 18GB · llama.cpp

其他

今天

21.6 tok/s

Decode

162 tok/s

Prefill

0.62 s

TTFT

18 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q8_0 llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q5_K_M

L0 自报

NVIDIA RTX 5070 SUPER · 18GB · llama.cpp

其他

今天

31.3 tok/s

Decode

234.8 tok/s

Prefill

0.43 s

TTFT

18 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q5_K_M llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q4_K_M

L0 自报

NVIDIA RTX 5070 SUPER · 18GB · llama.cpp

其他

今天

38.4 tok/s

Decode

288 tok/s

Prefill

0.35 s

TTFT

18 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q4_K_M llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q8_0

L0 自报

NVIDIA RTX 5070 Ti · 16GB · vLLM

其他

今天

23.5 tok/s

Decode

176.3 tok/s

Prefill

0.57 s

TTFT

16 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q8_0 vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q5_K_M

L0 自报

NVIDIA RTX 5070 Ti · 16GB · vLLM

其他

今天

34.2 tok/s

Decode

256.5 tok/s

Prefill

0.39 s

TTFT

16 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q5_K_M vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q4_K_M

L0 自报

NVIDIA RTX 5070 Ti · 16GB · vLLM

其他

今天

41.8 tok/s

Decode

313.5 tok/s

Prefill

0.32 s

TTFT

16 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q4_K_M vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q8_0

L0 自报

NVIDIA RTX 5070 Ti · 16GB · llama.cpp

其他

今天

21.6 tok/s

Decode

162 tok/s

Prefill

0.62 s

TTFT

16 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q8_0 llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q5_K_M

L0 自报

NVIDIA RTX 5070 Ti · 16GB · llama.cpp

其他

今天

31.3 tok/s

Decode

234.8 tok/s

Prefill

0.43 s

TTFT

16 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q5_K_M llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q4_K_M

L0 自报

NVIDIA RTX 5070 Ti · 16GB · llama.cpp

其他

今天

38.4 tok/s

Decode

288 tok/s

Prefill

0.35 s

TTFT

16 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q4_K_M llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q8_0

L0 自报

NVIDIA RTX 5090 · 32GB · vLLM

其他

今天

47 tok/s

Decode

352.5 tok/s

Prefill

0.28 s

TTFT

32 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q8_0 vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3-30B-A3B · Q5_K_M

L0 自报

NVIDIA RTX 5090 · 32GB · vLLM

其他

今天

68.3 tok/s

Decode

512.3 tok/s

Prefill

0.2 s

TTFT

22.8 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q5_K_M vLLM 0.7.3 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

共 30 条结果