matrix_wToday
我做过意图识别对比(中英混合 6:4):
- Llama-3.1-8B: 意图识别准确率 87.2%,171 tok/s
- Qwen3-8B: 意图识别准确率 89.5%,141 tok/s
Qwen3-8B 准确率高 2.3 个百分点——在意图识别这种"分类"任务上,中文能力差距体现明显。
但 Llama-3.1-8B 快 21%,如果你的场景是高并发实时(每秒 10+ 查询),Llama 更合适。单用户低频查询,Qwen 更好。
你 4090 24GB 跑 8B,两者都能跑。建议先用 Qwen3-8B,如果延迟不满意再换 Llama。