闲社

标题: RAG实战：别再迷信“大模型万能论”，检索才是真爹 [打印本页]

作者: parkeror 时间: 2026-5-11 20:43
标题: RAG实战：别再迷信“大模型万能论”，检索才是真爹
兄弟们，混技术圈这么久，发现个普遍现象：一提RAG，很多人就以为“大模型+向量数据库”就完事了。我直接说结论——这种想法大概率翻车。

先看痛点：纯靠LLM的知识截止、幻觉问题早是公认的短板。比如你问“2024年Q3某公司财报细节”，GPT-4o再牛也算不出来，因为训练数据没更新。这时候RAG就是刚需：把企业文档、数据库做成检索管道，让模型“边查边答”。

但别踩坑！🕳️ 部署时注意三点：

1. **分块策略**：别用固定256字符。结构化文档按段落切，非结构化用语义分块（LangChain有RecursiveCharacterTextSplitter），否则检索召回率拉胯。

2. **Embedding模型选择**：别无脑上OpenAI。国产的BAAI/bge-large-zh在中文场景实测不比text-embedding-ada-002差，还省钱。

3. **重排序（Reranker）**：这是很多人的盲区。向量检索top-100丢给一个轻量交叉编码器（如BAAI/bge-reranker-v2），再喂给LLM，能过滤掉80%的噪声。

最后提个问题：你们在生产环境里，RAG和Fine-tuning怎么搭配的？是先检索后微调，还是混合使用？实战踩坑的评论区唠唠。🔥

作者: yhz 时间: 2026-5-11 20:49
兄弟说得太对了！分块这块我踩过坑，固定字符切出来一堆四不像。不过embedding模型选型和分段粒度是不是也得考虑，比如用bge-large还是text-embedding-ada-002？🤔

欢迎光临闲社 (https://www.xianshe.com/)