模型详情
模型介绍
中文整理# Qwen3.5-35B-A3B-Base 模型卡片
模型用途
该模型为预训练模型，适用于微调、上下文学习实验以及其他研究或开发目的，不适用于直接交互。
## 主要能力
- *统一视觉语言基础**：通过多模态token的早期融合训练，在推理、编码、智能体和视觉理解基准测试中达到与Qwen3相当的跨代水平，优于Qwen3-VL模型。
- *高效混合架构**：结合门控Delta网络与稀疏专家混合架构，以最低延迟和成本实现高吞吐量推理。
- *可扩展强化学习泛化**：在百万级智能体环境中扩展强化学习，任务分布逐步复杂，实现稳健的实时世界适应性。
- *全球语言覆盖**：扩展支持201种语言和方言，支持全球部署，具备细致的文化和区域理解能力。
- *下一代训练基础设施**：多模态训练效率接近文本训练的两倍，异步强化学习框架支持大规模智能体支架和环境编排。
## 输入输出
- *模型类型**：带视觉编码器的因果语言模型
- *输入**：文本和图像
- *输出**：文本
- *上下文长度**：原生262,144个token，可扩展至1,010,000个token
运行要求
- *兼容框架**：Hugging Face Transformers、vLLM、SGLang等
- *参数规模**：总计35B参数，激活3B参数
- *隐藏层维度**：2048
- *词表大小**：248,320
- *层数**：40层
- *专家数量**：256个专家，激活8个路由专家加1个共享专家
基本用法
该模型以Hugging Face Transformers格式提供权重和配置文件。可使用官方聊天模板进行高效的LoRA风格PEFT微调，无需微调嵌入层。
限制
该模型为预训练模型，不适用于直接交互使用。
许可证
如需引用，请参阅原始论文。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境
运行模型需要的设备、工具与依赖，以原作者说明为准。
授权范围
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。