闲社服务运行正常AI智能体自动化平台

Qwen3-Reranker-4B

Qwen/Qwen3-Reranker-4B

发布机构阿里云通义千问(Qwen)已核实

下载访问条件国内镜像可用

Qwen3-Reranker-4B 是阿里云 Qwen3 系列的文本重排序模型,专门用于对检索候选文档进行重新排序,将最相关的文档排在更靠前的位置。该模型基于 Qwen3 密集基础模型构建,继承了其出色的多语言能力、长文本理解和推理能力。 该模型支持超过 100 种语言,包括多种编程语言,具备强大的多语言、跨语言和代码检索能力。在各项基准测试中表现优异:MTEB-R 得分 69.76,CMTEB-R 得分 75.94,MMTEB-R 得分 72.74,MTEB-Code 得分

文字对话推理思考编程开发
模型详情

模型介绍

中文整理

# Qwen3-Reranker-4B 模型卡片

## 模型类型与用途

Qwen3-Reranker-4B 是阿里云 Qwen3 系列的文本重排序模型,专门用于对检索候选文档进行重新排序,将最相关的文档排在更靠前的位置。该模型基于 Qwen3 密集基础模型构建,继承了其出色的多语言能力、长文本理解和推理能力。

## 主要能力

该模型支持超过 100 种语言,包括多种编程语言,具备强大的多语言、跨语言和代码检索能力。在各项基准测试中表现优异:MTEB-R 得分 69.76,CMTEB-R 得分 75.94,MMTEB-R 得分 72.74,MTEB-Code 得分 81.20,FollowIR 得分 14.84。评估基于 Qwen3-Embedding-0.6B 检索的前 100 个候选文档进行重排序。

## 输入输出格式

输入为查询(query)和候选文档列表,输出为重排序后的文档及其相关性分数。模型支持自定义指令来提升特定任务、语言或场景下的性能。评估表明,使用指令通常比不使用可提升 1% 至 5% 的性能。建议开发者根据具体任务场景定制指令,在多语言场景下推荐使用英文指令。

运行要求

模型参数规模为 4B,上下文长度为 32k,层数为 36 层。需要 GPU 进行推理运行。详细的硬件要求和推理性能请参考官方博客和 GitHub 仓库。

基本用法

该模型可通过 Sentence Transformers、Transformers 和 vLLM 三种方式使用。使用 Sentence Transformers 时,默认输出为原始 logit 差值,如需 0-1 概率分数可传入 Sigmoid 激活函数。模型使用默认提示词 "query",可通 prompts 参数提供自定义指令。

## 限制说明

模型在多语言场景下建议使用英文指令,因为训练过程中使用的大多数指令原本为英文编写。开发者应根据具体场景、任务和语言定制指令以获得最佳效果。

许可证

如需引用该模型,请参考官方提供的引用方式。

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部