模型介绍
中文整理InternVL3-38B-Pretrained
模型用途
这是InternVL3-38B的预训练版本,经过了原生多模态预训练,但未经过后训练(即监督微调和MPO)。如不确定使用哪个版本,请使用InternVL3-38B。
主要能力
InternVL3是一个先进的多模态大语言模型系列,表现出色的整体性能。相比InternVL 2.5,InternVL3具有更优的多模态感知和推理能力,并进一步扩展到工具使用、GUI代理、工业图像分析、3D视觉感知等领域。得益于原生多模态预训练,InternVL3系列的文本性能整体优于Qwen2.5系列。
具体能力包括:多模态推理和数学、OCR和图表及文档理解、多图像和现实世界理解、综合多模态和幻觉评估、视觉定位、多模态多语言理解、视频理解、GUI定位、空间推理。
输入输出
输入:支持图像、视频、文本及图像-文本交错序列等多模态数据。采用像素重排操作,将视觉token数量减少至原来的四分之一。采用类似InternVL 1.5的动态分辨率策略,将图像分割为448×448像素的瓦片。支持多图像和视频输入。
输出:文本响应、推理结果。
运行要求
建议使用transformers>=4.37.2以确保模型正常运行。支持16位(bf16/fp16)推理。支持BNB 8位量化。多GPU推理时需注意避免因tensor不在同一设备上导致的错误。
基本用法
可通过transformers库加载模型进行推理。支持流式输出。支持批量提示推理。支持多轮对话,可按OpenAI格式构造消息或使用pipeline.chat接口。
部署方面,可使用LMDeploy进行压缩、部署和服务。LMDeploy将多模态视觉-语言模型的复杂推理过程抽象为易于使用的pipeline。
限制
该版本为预训练版本,未经过后训练。如需使用经过微调的版本,请使用InternVL3-38B。
许可证
本项目采用MIT许可证发布。本项目使用了预训练的Qwen2.5作为组件,该组件采用Apache-2.0许可证。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
