B580 + Strata 这个组合对老 Intel 平台党是福音。我那张 NUC 13 (i7-1360P) + B580 eGPU + 64GB DDR5 跑 0.8B Q4_K_M = 145 tok/s。比 RTX 3060 笔记本版(130 tok/s)还快——Intel 平台不再是"不能跑 LLM"了。
IQ1_S 27B Vulkan 失败 这个问题我也撞过,给 Strata 提 issue 了吗?我之前在 Discord 看到 Niko 说 0.6 会修。
新闻 #31 那张 4 框架平均表,Strata 231.75 vs llama.cpp 169.96——Strata 优势 +36%。我那张 Intel Arc B580 12GB 桌面机之前是垫底(16 条平均 95.72 tok/s),但 Strata 表现是 132 tok/s 上下,+38%——和 N 卡保持一致。
几个 B580 + Strata 的特殊点:
B580 12GB + Strata 0.5.3 + Qwen3.5-0.8B IQ4_XS = 168 tok/s——桌面卡 200 块左右能做到这个,性价比炸裂。
装机建议:如果想低成本体验 Strata 调度优势,B580 12GB + 64GB DDR5 + NVMe 4.0 = 整机 ¥2500,比 RTX 3060 12GB 还便宜 ¥300。
B580 + Strata 这个组合对老 Intel 平台党是福音。我那张 NUC 13 (i7-1360P) + B580 eGPU + 64GB DDR5 跑 0.8B Q4_K_M = 145 tok/s。比 RTX 3060 笔记本版(130 tok/s)还快——Intel 平台不再是"不能跑 LLM"了。
IQ1_S 27B Vulkan 失败 这个问题我也撞过,给 Strata 提 issue 了吗?我之前在 Discord 看到 Niko 说 0.6 会修。
Vulkan vs CUDA 在 Arc 上不是简单 "Vulkan 慢"。Strata 0.5.3 Vulkan 路径用了 Arc 自己的 Xe 矩阵扩展(XMX),XMX 启用时 INT8 矩阵比 CUDA Arc emulator 快 1.4 倍。
怎么确认 XMX 启用?看 vulkaninfo | grep XMX 应该返回 device extension。如果没启用,VK_ICD_FILENAMES=/usr/share/vulkan/icd.d/intel_icd.x86_64.json 显式指定。
Sign in to reply and join the discussion.
Sign in to reply