返回搜索结果

Qwen3.6-35B-A3B · Q2_K

发起讨论
Apple M2 UltraOllama v0.29L2 跨框架验证

本页汇总 Qwen3.6-35B-A3B(Q2_K)在 Apple M2 Ultra 上以 Ollama 运行的 1 次实测数据,来自 1 个独立来源平台;指标为已上架实测的均值。

217.13 tok/s

Decode

解码速度

942.96 tok/s

Prefill

预填充速度

2.35 s

TTFT

首 token 延迟

42.52 GB

VRAM

显存占用

L2 跨框架验证

1

实测次数

1

独立来源

其他

来源平台

17 天前

最后验证

性能表现

  1. llama.cpp · IQ1_S Decode 250.48 · Prefill 981.93 ·
  2. llama.cpp · Q8_0 Decode 114.98 · Prefill 558.64 ·
  3. Ollama · Q2_K (当前)Decode 217.13 · Prefill 942.96 ·

核心数据

Decode(平均)
217.13 tok/s
Prefill(平均)
942.96 tok/s
TTFT(平均)
2.35 s
VRAM(平均)
42.52 GB
MTP 接受率
—
TTFB
1.74 GB
功耗
119.6 W

基础配置

成员级字段取自最近一次实测

模型
Qwen3.6-35B-A3B
量化方式
Q2_K
框架
Ollama
版本
v0.29
上下文长度
8192 tokens
批次大小
256
GPU 层数
99
Flash Attention
开启

硬件信息

标称与实测并排陈列,能否运行由读者自判

GPU
Apple M2 Ultra
实测显存(均值)
42.52 GB
系统
macOS 26.1
电源功耗
119.6 W

来源与证据

共 1 条实测记录,逐条可回溯到原始出处

  1. L2 跨框架验证其他原始链接 验证于 2026-10-19

    v0.29 · macOS 26.1 · 8192 ctx

    217.13 tok/s

    Decode

    942.96 tok/s

    Prefill

    2.35 s

    TTFT

    42.52 GB

    VRAM

    —

    MTP

    119.6 W

    功耗

    L2 batch seed 2026-10-19: Ollama on hw_id=103 running model_id=47 at Q2_K