模型介绍
中文整理Qwen3.5-397B-A17B-GPTQ-Int4 模型卡片
模型用途
这是一个基于因果语言模型加视觉编码器的后训练模型，采用GPTQ 4位量化技术。支持文本、图像和视频输入，用于生成文本回复。模型以Hugging Face Transformers格式提供，可与多种推理框架兼容。
主要能力
统一视觉语言基础：采用多模态token早期融合训练，在推理、编码、代理和视觉理解基准测试中与Qwen3持平，超越Qwen3-VL模型。
高效混合架构：结合门控Delta网络与稀疏专家混合架构，实现高吞吐量推理，延迟和成本开销最小化。
可扩展强化学习泛化：跨百万级智能体环境进行强化学习训练，具备逐步复杂的任务分布，实现稳健的现实世界适应性。
全球语言覆盖：扩展支持201种语言和方言，支持全球部署，具备细致的文化和区域理解能力。
下一代训练基础设施：多模态训练效率接近文本训练的两倍，支持异步强化学习框架，可处理大规模智能体脚手架和环境编排。
输入输出
支持输入：纯文本、图像、视频。输出：文本响应。原生上下文长度262,144个token，可扩展至1,010,000个token。
运行要求
总参数规模397B，激活参数17B。量化方式：GPTQ 4位。推荐使用最新版本的推理框架以确保最佳性能和兼容性。建议至少保持128K token的上下文长度以保留思考能力。
基本用法
模型默认处于思考模式，生成思考内容后再输出最终回复。如需直接获取回复，可通过API参数配置禁用思考内容。
推荐采样参数：
思考模式：temperature=0.6, top_p=0.95, top_k=20, min_p=0.0
非思考模式：temperature=0.7, top_p=0.8, top_k=20, min_p=0.0
大多数查询建议输出长度设为32,768个token。数学和编程竞赛等高度复杂问题的基准测试建议将最大输出长度设为81,920个token。
支持工具调用能力，可通过MCP配置文件或Qwen-Agent集成工具使用。
限制
不支持Qwen3的软切换功能（/think和/nothink）。使用静态YaRN缩放时，缩放因子保持恒定，可能影响较短文本的性能。建议仅在处理长上下文时修改rope参数配置。
许可证
请参考模型仓库中的许可证文件。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。