搜索实测数据

试试这些搜索

找到 3 个运行配置组合

计数为运行配置组合（模型 + 硬件 + 框架 + 量化的聚合），同一组合的多次实测已合并；原始次数见各结果的来源行。

模型Qwen3.5-0.8B

Qwen3.5-0.8B · Q8_0

L0 自报

NVIDIA RTX 5060 SUPER · 12GB · llama.cpp

其他

今天

388.3 tok/s

Decode

2,912.3 tok/s

Prefill

0.03 s

TTFT

1.4 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q8_0 llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3.5-0.8B · Q8_0

L0 自报

NVIDIA RTX 5070 · 12GB · llama.cpp

其他

今天

582.4 tok/s

Decode

4,368 tok/s

Prefill

0.02 s

TTFT

1.4 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q8_0 llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

Qwen3.5-0.8B · Q8_0

L0 自报

NVIDIA RTX 3060 12GB · 12GB · llama.cpp

其他

今天

312 tok/s

Decode

2,340 tok/s

Prefill

0.04 s

TTFT

1.4 GB

VRAM

配置（最近一次实测）

Linux CUDA 12.6 Q8_0 llama.cpp b4200 Flash Attention

来源：其他 · 1 次实测 · 1 个独立来源

对比查看详情

共 3 条结果