模型介绍
中文整理重排序模型
模型用途
bge-reranker-v2.5-gemma2-lightweight是基于gemma2-9b训练的多语言轻量级重排序模型。与嵌入模型不同，重排序模型直接以问题和文档作为输入，输出相似度分数而非嵌入向量。通过将查询和文档输入模型，可获得相关性分数，并可通过sigmoid函数映射到[0,1]区间。
主要能力
轻量级：模型可通过token压缩、层级压缩或两者结合实现轻量化。出色性能：在BEIR和MIRACL基准测试中达到新的最优水平。多语言支持：支持多语言语境，在英语和中文方面表现优异。灵活配置：可自由选择输出层、压缩比和压缩层，加速推理。
输入输出
输入：查询（query）和文档（passage）。输出：相似度分数，范围为[0,1]。
运行要求
基础模型：google/gemma-2-9b。层级压缩范围：8-42。可选压缩比：1、2、4、8。可选压缩层：[8, 16, 24, 32, 40]。
基本用法
支持FlagEmbedding和Huggingface transformers两种使用方式。使用时可通过不同提示词判断：文档B是否包含查询A的答案； passages A和B是否表达相同含义；查询A和B是否询问同一问题；论点A和反论点B是否表达矛盾观点。
模型列表
bge-reranker-base：基于xlm-roberta-base，支持中英文，轻量级易部署。bge-reranker-large：基于xlm-roberta-large，支持中英文，轻量级易部署。bge-reranker-v2-m3：基于bge-m3，多语言，轻量级易部署。bge-reranker-v2-gemma：基于gemma-2b，多语言。bge-reranker-v2-minicpm-layerwise：基于MiniCPM-2B-dpo-bf16，多语言，支持层级输出。bge-reranker-v2.5-gemma2-lightweight：基于google/gemma-2-9b，多语言，支持层级压缩和token压缩。
选择建议：多语言场景推荐bge-reranker-v2-m3、bge-reranker-v2-gemma和bge-reranker-v2.5-gemma2-lightweight；中英文场景推荐bge-reranker-v2-m3和bge-reranker-v2-minicpm-layerwise；效率优先推荐bge-reranker-v2-m3和bge-reranker-v2-minicpm-layerwise的低层级；性能优先推荐bge-reranker-v2-minicpm-layerwise和bge-reranker-v2-gemma。
评估数据
在BEIR基准测试中，保存60% Flops配置（压缩比=2，压缩层=[8]，截断层=[25]）下，bge-reranker-v2.5-gemma2-lightweight平均得分63.67，优于其他模型。在MIRACL基准测试中，该模型平均得分77.1。
许可证
请参考项目GitHub仓库获取许可证信息。如有帮助，请考虑star和引用。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。