固定版本资料核对 · 2026-10-19
用途、接入与验证要点
Qwen3-Reranker-0.6B 对查询与候选段落的相关性评分,适合知识库召回后的重排。它与生成向量的 Embedding 模型承担不同步骤。
- 适配工具
- 按原模型卡的 Transformers 重排示例设置指令、查询和文档格式。
- 仓库文件格式
- .safetensors
- 配置中的架构
- Qwen3ForCausalLM
- 本版本许可
- Apache-2.0
按本固定版本模型卡与许可文件核对使用、修改和分发条件。
用自己的材料做一次核对
下面是编写的任务输入与输出类型说明,并非本站推理实测结果。
练习输入
查询:如何修改发票抬头?先召回三段候选资料,再逐条组成查询与文档输入。
输出与核对
取得各候选的相关性分数并排序,保留对应原文来源;分数不是校准后的事实正确率。
使用限制与环境确认
- 重排需要先有候选集合,不会替代向量索引或关键词召回。
- 不要将普通 embedding 的 encode 调用直接套用到本模型。
- 按自己的设备、精度、输入长度和框架验证资源占用;这里没有本站实测的显存、速度或并发保证。
查看本版本资料文件核对记录
来源:Hugging Face · 固定提交:e61197ed45024b0ed8a2d74b80b4d909f1255473
原作者仓库 · 核对的说明文件 · config.json
已读取文件大小:727 字节
SHA-256:d479c427a9ca5295218063d4f9aca4f297ab4ac27487cca7af42c84643d51ef0
此记录验证资料文件读取,不代表完整权重下载或模型推理测试。不同来源的提交号不能混用。
模型介绍
中文整理# Qwen3-Reranker-0.6B 模型卡片
模型用途
Qwen3-Reranker-0.6B 是阿里云 Qwen3 系列的文本重排序模型,专门用于对检索系统返回的候选文档进行相关性排序。该模型基于 Qwen3 密集基础模型构建,继承了其优秀的多语言能力、长文本理解和推理能力。
## 主要能力
- **文本重排序**:对检索候选结果进行二次排序,提升最终结果的相关性
- **多语言支持**:支持超过100种语言,包括多种编程语言
- **跨语言检索**:具备强大的多语言和跨语言检索能力
- **代码检索**:支持代码相关的检索任务
- **指令支持**:支持用户自定义指令,可针对特定任务、语言或场景进行优化
## 输入输出
- **输入**:查询(query)和候选文档(passage)
- **输出**:相关性分数,用于对候选文档进行排序
- **上下文长度**:支持最长32K tokens
运行要求
- **参数规模**:0.6B(约6亿参数)
- **层数**:28层
- **硬件要求**:具体硬件要求和推理性能请参考官方博客和GitHub
基本用法
该模型可与 Sentence Transformers、Transformers 和 vLLM 配合使用。
使用 Sentence Transformers 时,默认输出为原始 logit 差值。如需获取0-1范围内的概率分数,可传入 Sigmoid 激活函数。模型使用默认提示词 "query",会注入指令"Given a web search query, retrieve relevant passages that answer the query"。可通过 prompts 参数提供自定义指令。
限制
- 评估表明,对于大多数下游任务,使用指令(instruct)通常比不使用提升1%至5%的性能
- 建议开发者根据具体任务和场景创建定制化指令
- 在多语言场景下,建议使用英文编写指令,因为模型训练过程中使用的大多数指令原本为英文
- 测试显示,在大多数检索场景中,不在查询侧使用 instruct 可能导致检索性能下降约1%至5%
许可证
当前模型资料标注的许可证为 Apache-2.0。具体许可条款及适用范围,请以所下载固定版本的原作者许可文件和说明为准。下载权限与使用许可是两回事。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
