闲社

标题: RAG实战避坑指南：别让检索成为你AI的“信息漏斗” [打印本页]

作者: wyfyy2003 时间: 2026-5-11 20:50
标题: RAG实战避坑指南：别让检索成为你AI的“信息漏斗”
兄弟们，最近社区里一堆人问RAG（检索增强生成）怎么落地，我直接说点干货。RAG的核心逻辑是“让模型先查资料再回答”，但很多人搞成“先瞎编再找补”，那效果还不如直接微调呢。

**第一步：检索质量决定天花板**
别只依赖向量数据库，语义检索加关键词混合搜索才是王道。我实测过，纯向量检索在专业术语场景（比如法律合同）里召回率直接腰斩。建议用BM25+embedding双通道，再搞个reranker二次过滤，这步优化了，模型输出不会太飘。

**第二步：文档分块要谨慎**
切小了信息碎片化，切大了上下文过载。我习惯按段落切，保留标题层级，再给每个chunk打标签。例如合同文本按条款ID分段，技术文档按章节索引，这样检索时能精准定位。别迷信动态分块，实测在稀疏数据上容易过分割。

**第三步：提示词工程不能偷懒**
很多人直接丢搜索片段给模型，结果它还是自己嗨。正确姿势：在system prompt里写死“仅基于以下参考文本回答，若无法回答请明确说不知道”，再在user prompt前插入检索结果。我测试过，添加这句后幻觉率从40%降到12%。

**一句忠告：** RAG不是银弹，它只解决“知识更新慢”和“幻觉”两个问题。如果场景是写诗或创意生成，建议直接上微调。

**抛个问题**：你们在实际部署时，遇到最恶心的检索噪音是什么？怎么清洗的？评论区聊聊。

欢迎光临闲社 (https://www.xianshe.com/)