模型介绍
中文整理Qwen3-Embedding-0.6B-GGUF 模型卡片
模型概述
Qwen3-Embedding-0.6B-GGUF 是阿里云 Qwen3 系列的文本嵌入模型，采用 GGUF 格式优化推理效率。该模型专为文本嵌入和排序任务设计，继承 Qwen3 基座模型的多语言能力、长文本理解和推理能力。
模型用途
文本嵌入：将文本转换为稠密向量，用于文本检索、代码检索、文本分类、文本聚类、双语挖掘等任务。
主要能力
多语言支持：支持超过100种语言，包括多种编程语言，具备强大的多语言、跨语言和代码检索能力。
灵活输出：支持自定义嵌入维度，范围从32到1024维。
指令感知：支持用户自定义指令，可针对特定任务、语言或场景优化性能。评估显示，使用指令通常比不使用提升1%至5%的检索性能。
性能表现：在 MTEB 多语言排行榜上，0.6B 版本得分64.33；MTEB 英语排行榜得分70.70；C-MTEB 中文排行榜得分66.33。
输入输出格式
输入：文本序列，支持32K上下文长度。
输出：文本嵌入向量，维度最高1024维，支持自定义。
运行要求
参数量：0.6B
上下文长度：32K
量化选项：q8_0、f16
基础用法
使用 llama.cpp 加载模型运行。可通过命令行直接运行或启动服务。
建议为特定场景、任务和语言定制指令。在多语言场景下，建议使用英文编写指令，因为模型训练时使用的指令主要为英文。
系列模型对比
Qwen3-Embedding 系列提供三种规格：0.6B、4B、8B。0.6B 版本适合资源受限场景，4B 和 8B 版本在各项基准测试中性能更优。系列同时提供对应的重排序模型（Qwen3-Reranker），可与嵌入模型组合使用提升检索效果。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。