模型介绍
中文整理# Qwen3-Reranker-0.6B 模型卡片
模型用途
Qwen3-Reranker-0.6B 是阿里云 Qwen3 系列的文本重排序模型,专门用于对检索系统返回的候选文档进行相关性排序。该模型基于 Qwen3 密集基础模型构建,继承了其优秀的多语言能力、长文本理解和推理能力。
## 主要能力
- **文本重排序**:对检索候选结果进行二次排序,提升最终结果的相关性
- **多语言支持**:支持超过100种语言,包括多种编程语言
- **跨语言检索**:具备强大的多语言和跨语言检索能力
- **代码检索**:支持代码相关的检索任务
- **指令支持**:支持用户自定义指令,可针对特定任务、语言或场景进行优化
## 输入输出
- **输入**:查询(query)和候选文档(passage)
- **输出**:相关性分数,用于对候选文档进行排序
- **上下文长度**:支持最长32K tokens
运行要求
- **参数规模**:0.6B(约6亿参数)
- **层数**:28层
- **硬件要求**:具体硬件要求和推理性能请参考官方博客和GitHub
基本用法
该模型可与 Sentence Transformers、Transformers 和 vLLM 配合使用。
使用 Sentence Transformers 时,默认输出为原始 logit 差值。如需获取0-1范围内的概率分数,可传入 Sigmoid 激活函数。模型使用默认提示词 "query",会注入指令"Given a web search query, retrieve relevant passages that answer the query"。可通过 prompts 参数提供自定义指令。
限制
- 评估表明,对于大多数下游任务,使用指令(instruct)通常比不使用提升1%至5%的性能
- 建议开发者根据具体任务和场景创建定制化指令
- 在多语言场景下,建议使用英文编写指令,因为模型训练过程中使用的大多数指令原本为英文
- 测试显示,在大多数检索场景中,不在查询侧使用 instruct 可能导致检索性能下降约1%至5%
许可证
原文未提供许可证相关信息。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
