Model details
模型介绍
中文整理InternVL3 5-241B-A28B-Flash
Model use case
InternVL3.5 是一个开源多模态模型系列,旨在提升多模态通用能力、推理能力和推理效率。该系列采用“ViT-MLP-LLM”架构,语言模型基于 Qwen3 系列和 GPT-OSS 初始化,视觉编码器基于 InternViT-300M 和 InternViT-6B 初始化。该模型支持 GUI 交互和具身代理等新功能,最大的模型 InternVL3.5-241B-A28B 在开源多模态大语言模型中达到领先水平。
主要能力
InternVL3.5 采用级联强化学习(Cascade RL)框架,通过离线 RL 和在线 RL 两阶段训练提升推理能力。该框架在 MMMU 和 MathVista 等下游推理任务上带来显著提升。模型还集成了视觉分辨率路由器(ViR),可动态调整视觉 token 分辨率,在保持性能的同时减少 50% 的视觉 token 数量。InternVL3.5 支持“思考模式”,可进行逐步推理以提升复杂问题的逻辑结构。此外,模型采用 Best-of-N(BoN)策略结合 VisualPRM-v1.1 评判模型来选择最优推理结果。
输入输出
模型接受多模态 token 序列输入,包含文本 token 和图像 token。输出为文本响应。上下文窗口设置为 32K token。
运行要求
模型支持解耦视觉-语言部署(DvD)策略,可将视觉编码器和语言模型部署在不同 GPU 上以平衡计算负载。视觉端部署 ViT 和 MLP(Flash 版本还包括 ViR),语言端仅运行 LLM。通信采用 TCP 传输 BF16 视觉特征,可选 RDMA 提升传输速度。视觉处理、特征传输和语言处理组织为异步三阶段流水线。
基本用法
要启用思考模式,需将系统提示设置为 R1 SYSTEM PROMPT。启用思考模式时,建议设置 do_sample=True 和 temperature=0.6 以减少不必要的重复。使用 VLMEvalkit 进行评估。训练 pipeline 包含四个阶段:多模态持续预训练(CPT)、监督微调(SFT)、离线强化学习(MPO)和在线强化学习(GSPO)。如不确定使用哪个版本,建议选择无后缀的版本。
限制
除非另有说明,论文中报告的实验结果未应用测试时扩展(Test-Time Scaling)。目前仅在推理基准上应用了测试时扩展,因为模型已展现出较强的感知和理解能力,启用测试时扩展未带来显著提升。
License
(原始文档中未提供许可证信息)
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.