模型介绍
中文整理Qwen3.5-4B 模型卡片
模型概述
Qwen3.5-4B 是一个带有视觉编码器的因果语言模型，采用预训练和后训练相结合的方式开发。该模型在多模态学习、架构效率、强化学习规模和全球语言支持方面实现了显著提升。
主要能力
统一视觉语言基础：采用多模态token早期融合训练，在推理、编码、代理和视觉理解基准测试中达到与Qwen3相当的跨代水平，优于Qwen3-VL模型。
高效混合架构：结合门控Delta网络和稀疏专家混合架构，实现高吞吐量推理，最小化延迟和成本开销。
可扩展强化学习：跨百万级智能体环境进行强化学习训练，任务分布逐步复杂化，实现稳健的真实世界适应性。
全球语言覆盖：扩展支持201种语言和方言，支持全球部署，具备细致的文化和区域理解能力。
下一代训练基础设施：多模态训练效率接近文本训练的两倍，支持大规模智能体脚手架和环境编排的异步强化学习框架。
运行要求
硬件要求：推荐使用8个GPU进行张量并行推理。
上下文长度：原生支持262,144个token，最长可扩展至1,010,000个token。遇到内存溢出错误时，可考虑减少上下文窗口。建议保持至少128K token的上下文长度以保留思考能力。
兼容框架：支持Hugging Face Transformers、vLLM、SGLang、KTransformers等推理框架。
基本用法
API调用：可通过OpenAI兼容API调用模型。推荐使用SGLang、vLLM或KTransformers作为生产环境的服务引擎。
采样参数建议：
- 思考模式下的一般任务：temperature=1.0, top p=0.95, top k=20, presence penalty=1.5, repetition penalty=1.0
- 思考模式下的精确编码任务：temperature=0.6, top p=0.95, top k=20, presence penalty=0.0, repetition penalty=1.0
- 指令（非思考）模式下的一般任务：temperature=0.7, top p=0.8, top k=20, presence penalty=1.5, repetition penalty=1.0
- 指令模式下的推理任务：temperature=1.0, top p=1.0, top k=40, presence penalty=2.0, repetition penalty=1.0
输出长度：大多数查询建议使用32,768个token的输出长度。对于数学和编程竞赛等高度复杂问题的基准测试，建议将最大输出长度设置为81,920个token。
思考模式：Qwen3.5默认启用思考模式，会在最终响应前生成思考内容。如需禁用思考内容获取直接响应，需通过API参数配置。
限制说明
Qwen3.5不支持Qwen3的软切换功能（即/think和/nothink命令）。模型默认启用思考模式，需通过配置API参数来获取不带思考内容的直接响应。
超长文本处理：模型原生支持最长262,144个token的上下文长度。对于总长度超过此限制的长程任务，建议使用RoPE缩放技术（如YaRN）来处理长文本。
许可证
请参阅模型仓库中的许可证文件获取详细信息。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。