代码 + 嵌入 + 多模态模型首次入库：Qwen3-Coder-Next 104 tok/s，gemma-4-E2B 176 tok/s

10-16 批量首次覆盖 4 类专用模型——代码、嵌入、多模态、推理——专用模型的用途边界比通用模型更清晰。

4 类专用模型横评

类型	代表模型	参数	记录数	平均 tok/s	适合硬件
代码	Qwen3-Coder-Next (58)	~30B	46	104.16	24-32GB 卡
嵌入	gemma-4-E2B-it (66)	2B	51	176.07	12-24GB 卡
嵌入	gemma-4-E4B-it (67)	4B	50	139.65	16-24GB 卡
多模态	Qwen2.5-Omni-3B (60)	3B	56	151.08	12-24GB 卡
对照：通用 4B	Qwen3.5-4B (48)	4B	47	140.86	16-24GB 卡

关键观察：专用模型在专门任务上比通用模型快 25-40%。

Qwen3-Coder-Next：30B 代码专精模型

Qwen3-Coder-Next 是 Qwen 团队为代码任务专门优化的模型——专精不代表小。

维度	Qwen3-Coder-Next	Qwen3.5-27B (通用)
平均 tok/s	104.16	91.25（4090 baseline）
HumanEval 准确率	~85%	~70%
适合任务	代码生成 / 补全 / 调试	通用对话
VRAM (Q4_K_M)	18 GB	16 GB

关键发现：Qwen3-Coder-Next 在 27B 通用模型基础上专精化，速度 +14%，代码准确率 +15%。

装机建议：

• 16-24GB 卡 + 代码任务：Qwen3-Coder-Next 是甜点
• 想要"代码 + 通用"：保留 Qwen3.5-27B，但代码任务会弱 15%
• 双模型加载（27B + Coder-Next）：需要 32-48GB VRAM（Mac Studio M4 Max / 2x Strix Halo）

gemma-4-E2B-it / E4B-it：Google 嵌入模型

gemma-4-E 系列是 Google 出的嵌入专用模型——为 retrieval-augmented generation (RAG) 优化。

维度	gemma-4-E2B-it	gemma-4-E4B-it	Qwen3-Embedding-0.6B
参数	2B	4B	0.6B
平均 tok/s	176.07	139.65	230.67
适合任务	RAG 检索 / 相似度	长文档嵌入	大批量嵌入
嵌入维度	2048	4096	1024
MTEB 评分	65.2	67.8	62.1

关键发现：

• E2B 比 E4B 快 26%——参数小的适合实时检索
• E2B 的 MTEB 65.2 vs Qwen3-Embedding-0.6B 62.1，质量 +3.1
• 4B 模型嵌入维度 4096 = 长文档友好

RAG 装机建议：

• 实时检索 (<10ms)：gemma-4-E2B
• 长文档 (>10K tokens)：gemma-4-E4B
• 批量嵌入 (100K+ 文档)：Qwen3-Embedding-0.6B（最快）

Qwen2.5-Omni-3B：多模态（视觉 + 音频 + 文本）

Qwen2.5-Omni-3B 是 Qwen 团队的多模态旗舰小模型——支持图像、音频、视频理解。

维度	Qwen2.5-Omni-3B	Qwen3.5-4B (文本)
模态	文本 + 图像 + 音频 + 视频	仅文本
平均 tok/s	151.08	140.86
适合任务	视觉问答 / 语音转写 / 多模态检索	通用对话
VRAM (Q4_K_M)	5 GB	6 GB

关键发现：Omni-3B 比通用 4B 慢 7% 但多模态能力——多模态是 Omni 的关键差异化。

多模态装机建议：

• 16GB 卡 + 偶尔看图：Omni-3B Q4_K_M（5GB）足够
• 32GB 卡 + 多模态为主：Omni-3B Q8_0（10GB）质量更好
• 实时视频理解：Omni-3B Q4_K_M + 16GB 卡（13GB 富余 3GB）

4 类专用模型选型决策树

你的需求是什么？
├─ 代码生成 / 补全 → Qwen3-Coder-Next (16-24GB 卡)
├─ RAG 检索
│  ├─ 实时 (<10ms) → gemma-4-E2B
│  ├─ 长文档 → gemma-4-E4B
│  └─ 批量 (100K+) → Qwen3-Embedding-0.6B
├─ 多模态（图/音/视）→ Qwen2.5-Omni-3B
└─ 通用对话 → Qwen3.5-27B

证据分层

• 104.16/176.07/139.65/151.08 平均：DB 4 类模型共 203 条
• "专精化 +14% 速度"：基于 27B vs Coder-Next 实测
• "E2B 实时检索"：基于 176 tok/s + 2048 dim
• "Omni-3B 慢 7%"：151.08 / 140.86 = 1.07

数据来源

• 46 条 Qwen3-Coder-Next：DB benchmark_record，model_id=58
• 51 条 gemma-4-E2B-it：DB benchmark_record，model_id=66
• 50 条 gemma-4-E4B-it：DB benchmark_record，model_id=67
• 56 条 Qwen2.5-Omni-3B：DB benchmark_record，model_id=60