Apple M2 Ultra

其他

1

运行记录

1

覆盖模型

1

覆盖框架

L1 已复现 × 1

证据分布

典型性能表现

同硬件上各模型 × 框架 × 量化的已上架实测均值。

  1. llama.cpp · Q4_K_M Decode 79.11 · Prefill 1550 ·

核心规格

厂商
Apple

运行记录

共 1 组配置

模型框架量化Decode生成耗时样本数
gemma-4-26B-A4B-itllama.cppQ4_K_M79.1 tok/s—1