模型详情
模型介绍
中文整理# InternVL3-38B 模型卡片
模型概述
InternVL3是一个先进的多模态大型语言模型系列,在整体性能上展现出卓越表现。相比InternVL 2.5,InternVL3具备更强的多模态感知和推理能力,并将多模态能力进一步扩展至工具使用、GUI代理、工业图像分析、3D视觉感知等领域。
## 主要能力
- *多模态推理与数学**:具备强大的多模态推理和数学问题解决能力。
- *OCR、图表与文档理解**:能够准确识别和理解光学字符、图表及各类文档内容。
- *多图像与现实世界理解**:支持处理多张图像并理解现实场景。
- *视觉定位**:具备精确的视觉定位能力。
- *多模态多语言理解**:支持多种语言的多模态理解任务。
- *视频理解**:能够理解和分析视频内容。
- *GUI定位**:具备图形用户界面元素的定位能力。
- *空间推理**:具备一定的空间推理能力。
- *长上下文理解**:得益于变量视觉位置编码(V2PE)技术,模型在长上下文理解方面表现优于前代版本。
- *语言能力**:通过原生多模态预训练,InternVL3系列在整体文本性能上优于Qwen2.5系列。
## 输入输出
- *输入格式**:支持图像、视频、文本及图像-文本交织序列等多模态数据输入。采用动态分辨率策略,将图像分割为448×448像素的瓦片进行处理。
- *输出格式**:文本回复。
运行要求
- *最低依赖**:transformers>=4.37.2
- *推理精度**:支持16位(bf16/fp16)精度推理
- *量化支持**:支持BNB 8位量化
- *多GPU支持**:支持多GPU推理部署
- *部署工具**:推荐使用LMDeploy进行模型压缩、部署和服务
基本用法
- *模型加载**:通过transformers库加载模型,支持16位精度和8位量化两种模式。
- *推理方式**:支持单图像推理、多图像推理、批量提示推理、流式输出以及多轮对话。
- *服务部署**:LMDeploy提供RESTful API接口,可将模型轻松部署为服务,兼容OpenAI接口格式。
许可证
本项目基于MIT许可证发布。项目中使用的预训练Qwen2.5组件基于Apache-2.0许可证。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境
运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
