bge-reranker-v2-minicpm-layerwise

# BGE Reranker 模型卡片

模型用途

Reranker（重排序模型）与Embedding模型不同，它直接使用问题（query）和文档（document）作为输入，输出相似度分数而非向量表示。通过将query和passage输入reranker，可以获得相关性分数，该分数可通过sigmoid函数映射到[0,1]范围内的浮点值。

## 主要能力

• *BAAI/bge-reranker-base**

基于xlm-roberta-base，支持中英文，轻量级reranker模型，易于部署，推理速度快。

• *BAAI/bge-reranker-large**

基于xlm-roberta-large，支持中英文，轻量级reranker模型，易于部署，推理速度快。

• *BAAI/bge-reranker-v2-m3**

基于bge-m3，支持多语言，轻量级reranker模型，具有强大的多语言能力，易于部署，推理速度快。

• *BAAI/bge-reranker-v2-gemma**

基于gemma-2b，支持多语言，适用于多语言环境，在英语和多语言能力方面表现良好。

• *BAAI/bge-reranker-v2-minicpm-layerwise**

基于MiniCPM-2B-dpo-bf16，支持多语言，适用于多语言环境，在英语和中文能力方面表现良好，支持自由选择输出层，便于加速推理。

## 输入输出

• *输入**：查询（query）和文档 passage
• *输出**：相似度分数，分数越高表示相关性越强，可通过sigmoid函数映射至[0,1]区间

运行要求

所有模型均为轻量级设计，易于部署，推理速度快。根据不同场景和资源条件可选择不同模型：

• 多语言场景：使用bge-reranker-v2-m3或bge-reranker-v2-gemma
• 中文或英文场景：使用bge-reranker-v2-m3或bge-reranker-v2-minicpm-layerwise
• 效率优先：使用bge-reranker-v2-m3或bge-reranker-v2-minicpm-layerwise的低层输出
• 更高性能：使用bge-reranker-v2-minicpm-layerwise或bge-reranker-v2-gemma

基本用法

可使用FlagEmbedding库或Huggingface transformers进行调用。

• *微调数据格式**：训练数据为json文件，每行为一个字典，包含query（查询）、pos（正例列表）、neg（负例列表）和prompt（查询与文本的关系描述）。如无负例，可从整个语料库中随机采样作为负例。

• *微调初始化**：LLM类reranker基于google/gemma-2b初始化，layerwise reranker基于openbmb/MiniCPM-2B-dpo-bf16初始化，使用多语言数据集混合训练。

限制

模型性能受所选版本和层数影响，layerwise版本允许选择不同层输出，需根据实际需求权衡性能和速度。

许可证

如认为本项目有用，请考虑star并引用。