Arao AI

搜索实测数据

试试这些搜索

找到 1 个运行配置组合

计数为运行配置组合（模型 + 硬件 + 框架 + 量化的聚合），同一组合的多次实测已合并；原始次数见各结果的来源行。

模型Qwen3-4B-Thinking-2507

Qwen3-4B-Thinking-2507 · Q8_0

L1 已复现

Qualcomm Snapdragon X Elite · llama.cpp

GitHub

昨天

18.5 tok/s

Decode

2.2 tok/s

Prefill

— s

TTFT

— GB

VRAM

配置（最近一次实测）
Windows Q8_0 llama.cpp b1-f027c4f

来源：GitHub · 1 次实测 · 1 个独立来源

查看详情

共 1 条结果

相关模型
相关硬件
相关框架
相关量化