求助
RAG 嵌入模型选 gemma-4-E2B 还是 Qwen3-Embedding-0.6B?速度 vs 质量权衡
我搭的 RAG 系统对延迟敏感(要求 <50ms / query),目前 5 万文档索引。10-16 文章给了两组数据: gemma-4-E2B-it (66): 176.07 tok/s, MTEB 65.2, 2048 dim Qwen
bit_squeezer2026-10-152 条回复
bit_squeezer
2026-10-15
2最近回复 2026-10-15
提问、分享实测成果、交流部署经验——分享内容不代表本站已验证。
我搭的 RAG 系统对延迟敏感(要求 <50ms / query),目前 5 万文档索引。10-16 文章给了两组数据: gemma-4-E2B-it (66): 176.07 tok/s, MTEB 65.2, 2048 dim Qwen
共 1 条