bge-reranker-v2-m3

# BAAI BGE Reranker 模型卡片

Model use case

Reranker（重排序模型）用于信息检索任务。与Embedding模型不同，Reranker直接接收问题（Query）和文档（Passage）作为输入，输出相似度分数而非向量表示。该分数可通过Sigmoid函数映射到[0,1]区间，表示文档与查询的相关程度。

## 主要能力

• 支持中英文及多语言文档相关性排序
• 轻量级模型设计，易于部署，推理速度快
• 部分模型支持层-wise输出，可选择不同层级以加速推理
• 可对候选文档进行重新排序，提升检索效果

## 模型列表

| 模型名称 | 基础模型 | 支持语言 | 特点 |

|---------|---------|---------|------|

| BAAI/bge-reranker-base | xlm-roberta-base | 中英文 | 轻量级，易部署，推理快 |

| BAAI/bge-reranker-large | xlm-roberta-large | 中英文 | 轻量级，易部署，推理快 |

| BAAI/bge-reranker-v2-m3 | bge-m3 | 多语言 | 轻量级，多语言能力强，易部署 |

| BAAI/bge-reranker-v2-gemma | gemma-2b | 多语言 | 适用于多语言场景，英语和多语言能力出色 |

| BAAI/bge-reranker-v2-minicpm-layerwise | MiniCPM-2B-dpo-bf16 | 多语言 | 8-40层可调，支持选择层级输出，加速推理 |

## 输入输出

• **输入**：查询（Query）和文档（Passage）
• **输出**：相关性分数，分数越高表示相关性越强，可通过Sigmoid函数映射到[0,1]区间

运行要求

根据不同场景和资源选择模型：

• **多语言场景**：使用 BAAI/bge-reranker-v2-m3 或 BAAI/bge-reranker-v2-gemma
• **中文或英文场景**：使用 BAAI/bge-reranker-v2-m3 或 BAAI/bge-reranker-v2-minicpm-layerwise
• **效率优先**：使用 BAAI/bge-reranker-v2-m3 或 BAAI/bge-reranker-v2-minicpm-layerwise 的低层级输出
• **性能优先**：使用 BAAI/bge-reranker-v2-minicpm-layerwise 或 BAAI/bge-reranker-v2-gemma

基本用法

### 使用FlagEmbedding

普通Reranker模型（bge-reranker-base / bge-reranker-large / bge-reranker-v2-m3）可直接获取相关性分数。

基于LLM的Reranker和基于LLM的层-wise Reranker有特定使用方法。

### 使用Huggingface Transformers

普通Reranker模型可直接获取相关性分数。

基于LLM的Reranker和基于LLM的层-wise Reranker有特定使用方法。

### 微调

训练数据格式为JSONL文件，每行包含一个字典，结构如下：

• query：查询文本
• pos：正面文本列表（相关文档）
• neg：负面文本列表（不相关文档）
• prompt：查询与文本之间关系的描述

如查询无负面文本，可从整个语料库中随机采样作为负样本。

微调初始化：基于LLM的Reranker从google/gemma-2b初始化，基于LLM的层-wise Reranker从openbmb/MiniCPM-2B-dpo-bf16初始化，训练数据混合了多语言数据集。

## 评估

模型在以下基准上进行了评估：

• llama-index
• BEIR：对bge-en-v1.5 large和e5 mistral 7b instruct的前100个结果进行重排序
• CMTEB-retrieval：对bge-zh-v1.5 large的前100个结果进行重排序
• miracl（多语言）：对bge-m3的前100个结果进行重排序

许可证

如认为该仓库有用，请考虑Star并引用。