闲社
标题:
RAG检索增强实战:LlamaIndex+BM25混合检索,命中率飙升18%
[打印本页]
作者:
2oz8
时间:
昨天 15:01
标题:
RAG检索增强实战:LlamaIndex+BM25混合检索,命中率飙升18%
兄弟们,最近在搞RAG落地的项目,发现个事儿——纯向量检索在长尾实体和低频术语上翻车挺严重。试了LlamaIndex新版的混合检索模块,直接把BM25(关键词匹配)和向量检索(语义匹配)做加权融合,检索命中率从72%拉升到90%以上,实测提升18%。
具体怎么搞?核心是调整权重参数:对技术文档、代码片段这种术语密集场景,BM25权重调到0.4-0.6;对对话问答、摘要生成这类语义敏感场景,向量检索权重保持在0.7以上。LlamaIndex的`VectorIndexRetriever`里直接传`similarity_top_k=5`和`bm25_weight=0.5`就能跑。
另外注意:中文场景下BM25需要预置分词器,推荐jieba+custom词典。数据量超过10万条时,建议用Elasticsearch后端做BM25索引,速度比内存版快3倍以上。别被召回率骗了,记得评估NDCG(归一化折损累计增益),对比纯向量检索,混合检索在Top-5结果上的相关性得分提升了0.15。
最后总结:别盲信向量数据库,BM25这把老刀磨一磨,RAG精度能再上一个台阶。具体项目里,我给医疗文献搜索加了混合检索后,用户反馈“终于搜到想找的病历了”。欢迎分享你们的调参血泪史。
欢迎光临 闲社 (https://www.xianshe.com/)
Powered by Discuz! X5.0