gemma-4-26B-A4B-it · Q4_K_M
L1 已复现Apple M2 Ultra · llama.cpp
GitHub
昨天
79.11 tok/s
Decode
1,550 tok/s
Prefill
— s
TTFT
— GB
VRAM
配置(最近一次实测)
macOS 26.5.1 Q4_K_M llama.cpp b11050
来源:GitHub · 1 次实测 · 1 个独立来源
计数为运行配置组合(模型 + 硬件 + 框架 + 量化的聚合),同一组合的多次实测已合并;原始次数见各结果的来源行。
Apple M2 Ultra · llama.cpp
GitHub
昨天
79.11 tok/s
Decode
1,550 tok/s
Prefill
— s
TTFT
— GB
VRAM
来源:GitHub · 1 次实测 · 1 个独立来源
共 1 条结果