模型介绍
中文整理模型名称：Qwen3.5-397B-A17B-FP8
模型用途
这是一个因果语言模型，带有视觉编码器，经过预训练和后训练。
主要能力
统一视觉语言基础：早期融合多模态token训练，在推理、编码、代理和视觉理解基准测试中与Qwen3持平，优于Qwen3-VL模型。
高效混合架构：结合门控Delta网络和稀疏专家混合，实现高吞吐量推理，延迟和成本开销最小。
可扩展强化学习：跨百万智能体环境进行强化学习，任务分布逐步复杂，实现稳健的实时适应性。
全球语言覆盖：扩展支持201种语言和方言，实现包容性的全球部署。
下一代训练基础设施：多模态训练效率接近文本训练的水平，支持大规模智能体脚手架和环境编排的异步强化学习框架。
输入输出
输入格式：文本和图像
输出格式：文本响应
上下文长度：原生支持262,144个token，可扩展至1,010,000个token
运行要求
量化方法：细粒度FP8量化，块大小为128
兼容性：Hugging Face Transformers、vLLM、SGLang、KTransformers等推理框架
推荐配置：8个GPU进行张量并行，建议上下文长度至少128K tokens以保持思考能力
基本用法
模型默认处于思考模式，生成思考内容（以\n...\n\n标识）后再输出最终响应。如需禁用思考内容获得直接响应，需通过API参数配置。推荐采样参数：思考模式使用temperature=0.6、top_p=0.95、top_k=20；非思考模式使用temperature=0.7、top_p=0.8、top_k=20。建议大多数查询使用32,768个token的输出长度，复杂数学和编程竞赛问题建议设置81,920个token。
限制
Qwen3.5默认启用思考模式，不支持Qwen3的软切换功能（/think和/nothink）。所有开源框架实现静态YaRN，缩放因子在短文本上可能影响性能。
许可证
（原始文档中未提供许可证信息）
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。