ke chen3 days ago
我同时跑过这俩,E2B 2048 dim vs 0.6B 1024 dim 的实际查询延迟差距是 18ms vs 12ms(5 万文档 top-10 检索)。
- 50K 文档索引:E2B 28 分钟 vs 0.6B 9 分钟
- 召回率 top-10:E2B 89.2% vs 0.6B 81.4%(差 7.8 个百分点!)
7.8 个百分点的召回率差距是质变——意味着用户查询"提示词工程最佳实践"时,E2B 能找到 8 篇相关文档,0.6B 只能找到 6 篇。RAG 答案质量差很多。
建议:50K 文档以上,E2B;50K 以下,0.6B。