闲社

模型实践 · 选择与验证

知识库检索怎么选:向量模型、重排模型与结果核对

先弄清系统错在“没找到资料”,还是“找到了却排得靠后”。向量模型把问题和文档编码为可比较的表示,重排模型对已经取得的候选段落重新评分;生成回答是后续环节。先把这三个环节拆开,才能判断换模型是否解决了实际问题。

闲社整理 · 发布与资料核对:2026-11-13

本页目录

先准备什么

准备可使用的原文、稳定的段落编号,以及一小组人工能找到答案的问题。保留文档标题、适用日期和页码。先记录现有关键词检索的结果,再与向量召回比较;不要从一个看起来漂亮的回答推断检索已经正确。

本页依据列明固定版本的模型卡与配置整理,提供选型与核对方法,未进行模型推理实测。以下样例与期望由人工设计;显存、速度、准确率和平台兼容性需在实际环境验证。

按任务选择对照路线

以下列出可对照的候选及接入条件,不按名称或参数规模排列性能名次。

你的问题可对照的路线先确认的条件
主要是中文短段落找依据BGE Base ZH v1.5 做向量召回按模型卡区分查询指令与文档编码,保留分段编号。
需要多语言资料或比较不同检索表示BGE-M3 对照稠密、稀疏或多向量路线工具是否支持所选输出;不把不同表示直接当成同一种索引。
已有候选,但有效依据排在后面BGE Reranker Large 或 Qwen3 Reranker 0.6B 做重排输入是问题与段落对;记录候选数量、截断方式和逐对计算耗时。
想比较指令感知的向量方案Qwen3 Embedding 0.6B查询指令、输出维度和归一化方式固定后再建立索引。

实际验证步骤

  1. 先标出正确依据

    为每个问题人工标出应出现的段落及允许接受的替代依据。加入“资料没有答案”的问题,避免系统靠猜测掩盖召回失败。

  2. 固定一种召回配置

    记录模型来源、提交号、分段规则、查询指令、维度及截断长度。更换编码模型或维度时重建对应索引,并保留旧索引便于对照。

  3. 再比较是否需要重排

    在同一批候选上比较重排前后次序,统计正确依据是否进入前若干条。若正确资料根本不在候选中,先检查索引覆盖与分段。

  4. 最后检查带来源的答案

    让回答附上段落编号和适用日期,逐句回原文核对。检索分数只描述特定设置下的相关性,不能当作事实可信度或跨模型统一概率。

输入与核对样例

准备这组输入

自制资料A:2025版报销说明,需要发票。资料B:2026版报销说明,需要发票及审批记录。资料C:库房盘点在周五。提问:按2026版说明,报销要准备什么?另问:报销是否必须邮寄纸质材料?

对照什么结果

人工核对标准:第一个问题应找到B,并保留“发票及审批记录”和2026版限定;A只能作为旧版差异,C不应成为依据。第二个问题在这些资料中没有答案,应明确未找到依据。这里没有填入模型实测分数。

常见失败怎么查

换模型后结果突然失真

检查查询向量是否与文档索引来自同一编码配置;先停止混用,再重新编码一组可核对的段落。

旧规定总排在前面

核对版本与适用日期是否作为元数据保存。业务有效性需要明确过滤或复核,不能只靠语义相似度。

候选越多越慢

分别记录召回和重排耗时,逐步调整候选数量。不要只看最终回答速度,掩盖逐对重排的开销。

固定版本资料与下载入口

先查看相应模型的用途、运行组件和许可,再按详情页的方法下载。下载完成不代表部署或任务验收完成。

BAAI/bge-base-zh-v1.5

中文知识库向量召回的对照项。

本版本许可:MIT。具体条件见原始资料及模型详情。
核对来源与固定版本

资料来源:ModelScope
固定提交:b01c51d19538ffc43e68b84619c19604325b4e15
原作者模型卡 · 许可来源

仓库文件清单、配套配置与下载说明见模型详情。不同来源的提交号和文件不可直接混用。

BAAI/bge-m3

比较多语言及不同检索表示时的对照项。

本版本许可:MIT。具体条件见原始资料及模型详情。
核对来源与固定版本

资料来源:Hugging Face
固定提交:5617a9f61b028005a4858fdac845db406aefb181
原作者模型卡 · 许可来源

仓库文件清单、配套配置与下载说明见模型详情。不同来源的提交号和文件不可直接混用。

Qwen/Qwen3-Embedding-0.6B

比较查询指令与向量维度配置。

本版本许可:Apache-2.0。具体条件见原始资料及模型详情。
核对来源与固定版本

资料来源:Hugging Face
固定提交:97b0c614be4d77ee51c0cef4e5f07c00f9eb65b3
原作者模型卡 · 许可来源

仓库文件清单、配套配置与下载说明见模型详情。不同来源的提交号和文件不可直接混用。

BAAI/bge-reranker-large

检索后对问题与候选段落成对评分。

本版本许可:MIT(模型卡)。具体条件见原始资料及模型详情。
核对来源与固定版本

资料来源:ModelScope
固定提交:0f063ec9af33f5015d642e5b0fc74d48e5dfd2a2
原作者模型卡 · 许可来源

仓库文件清单、配套配置与下载说明见模型详情。不同来源的提交号和文件不可直接混用。

Qwen/Qwen3-Reranker-0.6B

对照另一种重排输入格式。

本版本许可:Apache-2.0。具体条件见原始资料及模型详情。
核对来源与固定版本

资料来源:Hugging Face
固定提交:e61197ed45024b0ed8a2d74b80b4d909f1255473
原作者模型卡 · 许可来源

仓库文件清单、配套配置与下载说明见模型详情。不同来源的提交号和文件不可直接混用。

常见问题

Embedding能直接回答问题吗?

通常返回向量或其他检索表示。取得依据后,还需要答案组织和原文核对。

重排能补回从未召回的段落吗?

不能。它处理传入的候选,应先检查召回覆盖。

不同模型可以共用一个分数阈值吗?

不应直接套用。用相同人工标注的问题集,在各自配置下重新校准。

继续了解相关任务

返回已核对模型资料 →