Qwen3.5-9B

Qwen3.5-9B 模型卡片

模型概述

Qwen3.5-9B是一个带视觉编码器的因果语言模型，训练阶段包括预训练和后训练。模型参数量为9B，上下文长度原生支持262,144个tokens，可扩展至1,010,000个tokens。

模型用途

该模型用于处理文本和视觉理解任务，支持多模态输入，包括文本、图像和视频。可用于问答、代码生成、数学推理、指令遵循、视觉理解等多种应用场景。

主要能力

统一视觉语言基础模型：通过多模态tokens的早期融合训练，在推理、编码、代理和视觉理解基准测试中实现与Qwen3相当的跨代性能，优于Qwen3-VL模型。

高效混合架构：结合门控Delta网络和稀疏专家混合架构，实现高吞吐量推理，最小化延迟和成本开销。

可扩展强化学习泛化：强化学习扩展至百万级代理环境，具有逐步复杂的任务分布，实现稳健的实时世界适应性。

全球语言覆盖：扩展支持201种语言和方言，支持全球部署，具备细微的文化和区域理解能力。

下一代训练基础设施：多模态训练效率接近100%（相比纯文本训练），支持大规模代理脚手架和环境编排的异步强化学习框架。

输入输出

支持文本、图像和视频输入。通过Chat Completions API进行交互，默认以思考模式运行，在生成最终响应前会输出思考内容（以\n... \n\n标识）。可通过API参数配置禁用思考内容以获得直接响应。

运行要求

推荐使用最新版本的推理框架以确保最佳性能和兼容性。对于生产工作负载或高吞吐量场景，强烈建议使用专用服务引擎如SGLang、KTransformers或vLLM。

默认上下文长度为262,144个tokens。遇到内存溢出错误时可考虑减少上下文窗口。但由于Qwen3.5利用扩展上下文处理复杂任务，建议保持至少128K个tokens的上下文长度以保持思考能力。

基本用法

可通过SGLang、vLLM、KTransformers或Hugging Face Transformers部署。推荐使用OpenAI兼容API进行集成。

采样参数建议：

• 思考模式-通用任务：temperature=1.0, top p=0.95, top k=20, min p=0.0, presence penalty=1.5, repetition penalty=1.0
• 思考模式-精确编码任务：temperature=0.6, top p=0.95, top k=20, min p=0.0, presence penalty=0.0, repetition penalty=1.0
• 指导模式-通用任务：temperature=0.7, top p=0.8, top k=20, min p=0.0, presence penalty=1.5, repetition penalty=1.0
• 指导模式-推理任务：temperature=1.0, top p=0.95, top k=20, min p=0.0, presence penalty=1.5, repetition penalty=1.0

输出长度建议：大多数查询使用32,768个tokens；数学和编程竞赛等高度复杂问题的基准测试建议设置为81,920个tokens。

标准化输出格式：数学问题在提示中包含"Please reason step by step, and put your final answer within \boxed{}."；多项选择题添加JSON结构要求模型仅输出选项字母。

多轮对话中，历史模型输出应仅包含最终输出部分，不需要包含思考内容。

超长文本处理：使用RoPE缩放技术（如YaRN）处理超过262,144个tokens的长视界任务。

限制

Qwen3.5默认以思考模式运行，会在响应前生成思考内容。禁用思考内容需要通过API参数配置。

不支持Qwen3的软切换功能（/think和/nothink）。

许可证

该仓库包含Hugging Face Transformers格式的后训练模型权重和配置文件。具体许可证信息请参阅模型仓库。