Model details
模型介绍
中文整理InternVL3-8B
Model use case
InternVL3是一个先进的多模态大型语言模型系列,旨在提供卓越的整体性能。该模型在多模态感知和推理能力上相比InternVL 2.5有显著提升,并扩展支持工具使用、GUI代理、工业图像分析、3D视觉感知等应用场景。
主要能力
多模态推理与数学:具备复杂推理和数学问题求解能力。OCR、图表与文档理解:能够识别和理解光学字符、图表及各类文档。多图像与现实世界理解:支持同时处理多张图像并理解真实场景。视觉定位:具备精确定位图像中目标区域的能力。多模态多语言理解:支持多种语言的多模态理解任务。视频理解:能够分析和理解视频内容。GUI定位:具备图形用户界面元素的定位能力。空间推理:具备理解空间关系的能力。语言能力:得益于原生多模态预训练,整体文本性能优于Qwen2.5系列。
输入输出
输入:支持图像、视频、文本及多模态交织序列。输出:文本响应。
运行要求
依赖transformers库,版本需大于等于4.37.2。支持16位浮点(bf16/fp16)推理模式。支持BNB 8位量化以降低显存需求。支持多GPU分布式推理。
基本用法
模型加载:使用transformers库加载InternVL3-8B模型及相关组件。推理方式:支持流式输出以实现实时交互。多图像处理:将多张图像放入同一列表进行批量处理。批量推理:将多个提示放入列表结构即可实现批量处理。多轮对话:可按照OpenAI格式构造消息,或使用pipeline.chat接口进行多轮对话。部署服务:可通过LMDeploy工具将模型快速部署为RESTful API服务。
限制
模型卡片中未明确说明具体限制条款。
License
本项目采用MIT许可证发布。项目中使用的预训练Qwen2.5组件采用Apache-2.0许可证。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.