闲社服务运行正常AI智能体自动化平台

Qwen3-Reranker-0.6B

Qwen/Qwen3-Reranker-0.6B

发布机构阿里云通义千问(Qwen)已核实

下载访问条件国内镜像可用

Qwen3-Reranker-0.6B 对查询与候选段落的相关性评分,适合知识库召回后的重排。它与生成向量的 Embedding 模型承担不同步骤。

检索重排相关性评分

固定版本资料核对 · 2026-10-19

用途、接入与验证要点

Qwen3-Reranker-0.6B 对查询与候选段落的相关性评分,适合知识库召回后的重排。它与生成向量的 Embedding 模型承担不同步骤。

适配工具
按原模型卡的 Transformers 重排示例设置指令、查询和文档格式。
仓库文件格式
.safetensors
配置中的架构
Qwen3ForCausalLM
本版本许可
Apache-2.0

按本固定版本模型卡与许可文件核对使用、修改和分发条件。

用自己的材料做一次核对

下面是编写的任务输入与输出类型说明,并非本站推理实测结果。

练习输入

查询:如何修改发票抬头?先召回三段候选资料,再逐条组成查询与文档输入。

输出与核对

取得各候选的相关性分数并排序,保留对应原文来源;分数不是校准后的事实正确率。

使用限制与环境确认

  • 重排需要先有候选集合,不会替代向量索引或关键词召回。
  • 不要将普通 embedding 的 encode 调用直接套用到本模型。
  • 按自己的设备、精度、输入长度和框架验证资源占用;这里没有本站实测的显存、速度或并发保证。
查看本版本资料文件核对记录

来源:Hugging Face · 固定提交:e61197ed45024b0ed8a2d74b80b4d909f1255473

原作者仓库 · 核对的说明文件 · config.json

已读取文件大小:727 字节
SHA-256:d479c427a9ca5295218063d4f9aca4f297ab4ac27487cca7af42c84643d51ef0

此记录验证资料文件读取,不代表完整权重下载或模型推理测试。不同来源的提交号不能混用。

模型详情

模型介绍

中文整理

# Qwen3-Reranker-0.6B 模型卡片

模型用途

Qwen3-Reranker-0.6B 是阿里云 Qwen3 系列的文本重排序模型,专门用于对检索系统返回的候选文档进行相关性排序。该模型基于 Qwen3 密集基础模型构建,继承了其优秀的多语言能力、长文本理解和推理能力。

## 主要能力

  • **文本重排序**:对检索候选结果进行二次排序,提升最终结果的相关性
  • **多语言支持**:支持超过100种语言,包括多种编程语言
  • **跨语言检索**:具备强大的多语言和跨语言检索能力
  • **代码检索**:支持代码相关的检索任务
  • **指令支持**:支持用户自定义指令,可针对特定任务、语言或场景进行优化

## 输入输出

  • **输入**:查询(query)和候选文档(passage)
  • **输出**:相关性分数,用于对候选文档进行排序
  • **上下文长度**:支持最长32K tokens

运行要求

  • **参数规模**:0.6B(约6亿参数)
  • **层数**:28层
  • **硬件要求**:具体硬件要求和推理性能请参考官方博客和GitHub

基本用法

该模型可与 Sentence Transformers、Transformers 和 vLLM 配合使用。

使用 Sentence Transformers 时,默认输出为原始 logit 差值。如需获取0-1范围内的概率分数,可传入 Sigmoid 激活函数。模型使用默认提示词 "query",会注入指令"Given a web search query, retrieve relevant passages that answer the query"。可通过 prompts 参数提供自定义指令。

限制

  • 评估表明,对于大多数下游任务,使用指令(instruct)通常比不使用提升1%至5%的性能
  • 建议开发者根据具体任务和场景创建定制化指令
  • 在多语言场景下,建议使用英文编写指令,因为模型训练过程中使用的大多数指令原本为英文
  • 测试显示,在大多数检索场景中,不在查询侧使用 instruct 可能导致检索性能下降约1%至5%

许可证

当前模型资料标注的许可证为 Apache-2.0。具体许可条款及适用范围,请以所下载固定版本的原作者许可文件和说明为准。下载权限与使用许可是两回事。

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部