模型介绍
中文整理InternVL3.5 5-14B-Flash
模型用途
InternVL3.5是一款开源多模态大语言模型系列,旨在提升多模态任务的通用性、推理能力和推理效率。该模型支持图像与文本的联合理解与生成,可应用于视觉问答、图像描述、推理任务、GUI交互以及具身智能等多种场景。
主要能力
InternVL3.5采用级联强化学习(Cascade RL)框架,通过离线强化学习实现稳定收敛,再通过在线强化学习进行精细对齐,显著提升下游推理任务性能。该模型还引入视觉分辨率路由器(ViR),可动态调整视觉token的分辨率而不影响性能。结合解耦视觉-语言部署(DvD)策略,将视觉编码器和语言模型部署在不同GPU上,有效平衡计算负载。
该系列模型支持"思考模式"(Thinking mode),可引导模型进行逐步推理以提升复杂问题的解决能力。在推理任务中采用Best-of-N(BoN)策略,使用VisualPRM-v1.1作为评判模型从多个候选中选择最优响应。
与前代InternVL3相比,InternVL3.5在整体推理性能上提升最高达16.0%,推理速度提升4.05倍。最大模型InternVL3.5-241B-A28B在开源多模态大语言模型中达到领先水平。
输入输出
输入:图像与文本的组合,支持多轮对话
输出:文本响应
运行要求
InternVL3.5-14B-Flash为该系列的中等规模版本,视觉参数约0.3B,语言参数约14.8B,总参数约15.1B。该模型需要支持大规模模型运行的GPU硬件资源。具体硬件要求需参考官方文档。
基本用法
要启用模型的思考模式,需将系统提示词设置为R1 SYSTEM PROMPT。启用思考模式时,建议设置do_sample=True和temperature=0.6以减少不必要的重复。
如不确定使用哪个版本,建议选择无后缀的版本,因为该版本已完成完整训练流程。
限制
测试时扩展(Test-Time Scaling)目前仅应用于推理基准测试。模型在感知和理解能力方面已表现较强,启用测试时扩展未带来显著提升。
许可证
该模型及代码已公开发布,具体许可证信息需参考官方GitHub仓库。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
