InternVL3-38B

# InternVL3-38B 模型卡片

模型概述

InternVL3是一个先进的多模态大型语言模型系列，在整体性能上展现出卓越表现。相比InternVL 2.5，InternVL3具备更强的多模态感知和推理能力，并将多模态能力进一步扩展至工具使用、GUI代理、工业图像分析、3D视觉感知等领域。

## 主要能力

• *多模态推理与数学**：具备强大的多模态推理和数学问题解决能力。

• *OCR、图表与文档理解**：能够准确识别和理解光学字符、图表及各类文档内容。

• *多图像与现实世界理解**：支持处理多张图像并理解现实场景。

• *视觉定位**：具备精确的视觉定位能力。

• *多模态多语言理解**：支持多种语言的多模态理解任务。

• *视频理解**：能够理解和分析视频内容。

• *GUI定位**：具备图形用户界面元素的定位能力。

• *空间推理**：具备一定的空间推理能力。

• *长上下文理解**：得益于变量视觉位置编码（V2PE）技术，模型在长上下文理解方面表现优于前代版本。

• *语言能力**：通过原生多模态预训练，InternVL3系列在整体文本性能上优于Qwen2.5系列。

## 输入输出

• *输入格式**：支持图像、视频、文本及图像-文本交织序列等多模态数据输入。采用动态分辨率策略，将图像分割为448×448像素的瓦片进行处理。

• *输出格式**：文本回复。

运行要求

• *最低依赖**：transformers>=4.37.2

• *推理精度**：支持16位（bf16/fp16）精度推理

• *量化支持**：支持BNB 8位量化

• *多GPU支持**：支持多GPU推理部署

• *部署工具**：推荐使用LMDeploy进行模型压缩、部署和服务

基本用法

• *模型加载**：通过transformers库加载模型，支持16位精度和8位量化两种模式。

• *推理方式**：支持单图像推理、多图像推理、批量提示推理、流式输出以及多轮对话。

• *服务部署**：LMDeploy提供RESTful API接口，可将模型轻松部署为服务，兼容OpenAI接口格式。

License

本项目基于MIT许可证发布。项目中使用的预训练Qwen2.5组件基于Apache-2.0许可证。