模型介绍
中文整理InternVL3-14B
模型用途
InternVL3 是一个先进的多模态大语言模型系列，在整体性能上表现出色。该模型具备卓越的多模态感知和推理能力，并进一步扩展到工具使用、GUI 代理、工业图像分析、三维视觉感知等领域。
主要能力
多模态推理与数学能力：支持复杂的多模态推理任务和数学问题求解。
文档理解：具备 OCR 识别、图表理解、文档分析能力。
多图像与现实世界理解：能够处理多张图像并理解真实场景。
视觉定位：支持视觉 grounding 任务。
多语言多模态理解：支持多种语言的多模态理解任务。
视频理解：具备视频内容理解能力。
GUI 定位：支持图形用户界面元素的定位与操作。
空间推理：具备空间关系理解和推理能力。
语言能力：得益于原生多模态预训练，InternVL3 系列在整体文本性能上优于 Qwen2.5 系列。
输入输出
支持输入：图像、视频、文本、多图像序列、图像文本交错数据。
输出：文本响应。
运行要求
建议使用 transformers>=4.37.2 版本以确保模型正常运行。
推理需要 GPU 支持。
多 GPU 推理时需确保语言模型的首层和最后一层在同一设备上，以避免张量设备不一致导致的错误。
基本用法
模型加载：支持 16 位（bf16/fp16）精度、BNB 8 位量化、多 GPU 加载等方式。
推理方式：可使用 Transformers 库进行推理，支持流式输出。
微调支持：InternVL、SWIFT、XTurner 等仓库支持该系列模型的微调。
部署方式：可使用 LMDeploy 进行模型压缩、部署和服务。
多图像推理：将多张图像放入同一列表，注意会导致输入 token 数量增加，通常需要增大上下文窗口。
批量推理：将提示放入列表结构中即可。
多轮对话：可按 OpenAI 格式构造消息，或使用 pipeline.chat 接口。
限制
处理多张图像时会产生大量输入 token，通常需要增大上下文窗口大小。
许可证
本项目基于 MIT 许可证发布。本项目使用了预训练的 Qwen2.5 作为组件，该部分基于 Apache-2.0 许可证。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。