模型实践 · 选择与验证
知识库检索怎么选:向量模型、重排模型与结果核对
先弄清系统错在“没找到资料”,还是“找到了却排得靠后”。向量模型把问题和文档编码为可比较的表示,重排模型对已经取得的候选段落重新评分;生成回答是后续环节。先把这三个环节拆开,才能判断换模型是否解决了实际问题。
本页目录
先准备什么
准备可使用的原文、稳定的段落编号,以及一小组人工能找到答案的问题。保留文档标题、适用日期和页码。先记录现有关键词检索的结果,再与向量召回比较;不要从一个看起来漂亮的回答推断检索已经正确。
本页依据列明固定版本的模型卡与配置整理,提供选型与核对方法,未进行模型推理实测。以下样例与期望由人工设计;显存、速度、准确率和平台兼容性需在实际环境验证。
按任务选择对照路线
以下列出可对照的候选及接入条件,不按名称或参数规模排列性能名次。
| 你的问题 | 可对照的路线 | 先确认的条件 |
|---|---|---|
| 主要是中文短段落找依据 | BGE Base ZH v1.5 做向量召回 | 按模型卡区分查询指令与文档编码,保留分段编号。 |
| 需要多语言资料或比较不同检索表示 | BGE-M3 对照稠密、稀疏或多向量路线 | 工具是否支持所选输出;不把不同表示直接当成同一种索引。 |
| 已有候选,但有效依据排在后面 | BGE Reranker Large 或 Qwen3 Reranker 0.6B 做重排 | 输入是问题与段落对;记录候选数量、截断方式和逐对计算耗时。 |
| 想比较指令感知的向量方案 | Qwen3 Embedding 0.6B | 查询指令、输出维度和归一化方式固定后再建立索引。 |
实际验证步骤
先标出正确依据
为每个问题人工标出应出现的段落及允许接受的替代依据。加入“资料没有答案”的问题,避免系统靠猜测掩盖召回失败。
固定一种召回配置
记录模型来源、提交号、分段规则、查询指令、维度及截断长度。更换编码模型或维度时重建对应索引,并保留旧索引便于对照。
再比较是否需要重排
在同一批候选上比较重排前后次序,统计正确依据是否进入前若干条。若正确资料根本不在候选中,先检查索引覆盖与分段。
最后检查带来源的答案
让回答附上段落编号和适用日期,逐句回原文核对。检索分数只描述特定设置下的相关性,不能当作事实可信度或跨模型统一概率。
输入与核对样例
准备这组输入
自制资料A:2025版报销说明,需要发票。资料B:2026版报销说明,需要发票及审批记录。资料C:库房盘点在周五。提问:按2026版说明,报销要准备什么?另问:报销是否必须邮寄纸质材料?
对照什么结果
人工核对标准:第一个问题应找到B,并保留“发票及审批记录”和2026版限定;A只能作为旧版差异,C不应成为依据。第二个问题在这些资料中没有答案,应明确未找到依据。这里没有填入模型实测分数。
常见失败怎么查
换模型后结果突然失真
检查查询向量是否与文档索引来自同一编码配置;先停止混用,再重新编码一组可核对的段落。
旧规定总排在前面
核对版本与适用日期是否作为元数据保存。业务有效性需要明确过滤或复核,不能只靠语义相似度。
候选越多越慢
分别记录召回和重排耗时,逐步调整候选数量。不要只看最终回答速度,掩盖逐对重排的开销。
固定版本资料与下载入口
先查看相应模型的用途、运行组件和许可,再按详情页的方法下载。下载完成不代表部署或任务验收完成。
BAAI/bge-base-zh-v1.5
中文知识库向量召回的对照项。
本版本许可:MIT。具体条件见原始资料及模型详情。BAAI/bge-m3
比较多语言及不同检索表示时的对照项。
本版本许可:MIT。具体条件见原始资料及模型详情。Qwen/Qwen3-Embedding-0.6B
比较查询指令与向量维度配置。
本版本许可:Apache-2.0。具体条件见原始资料及模型详情。BAAI/bge-reranker-large
检索后对问题与候选段落成对评分。
本版本许可:MIT(模型卡)。具体条件见原始资料及模型详情。Qwen/Qwen3-Reranker-0.6B
对照另一种重排输入格式。
本版本许可:Apache-2.0。具体条件见原始资料及模型详情。常见问题
Embedding能直接回答问题吗?
通常返回向量或其他检索表示。取得依据后,还需要答案组织和原文核对。
重排能补回从未召回的段落吗?
不能。它处理传入的候选,应先检查召回覆盖。
不同模型可以共用一个分数阈值吗?
不应直接套用。用相同人工标注的问题集,在各自配置下重新校准。