模型介绍
中文整理InternVL3-38B 模型卡片
Model use case
InternVL3 是一个先进的多模态大型语言模型系列，在整体性能上表现出色。该模型在 InternVL 2.5 的基础上进一步提升了多模态感知和推理能力，并扩展支持工具使用、GUI 代理、工业图像分析、三维视觉感知等功能。
主要能力
多模态推理与数学能力：具备强大的多模态推理和数学问题解决能力。
文档理解：支持 OCR 识别、图表理解、文档分析。
多图像与现实世界理解：能够处理多张图像并理解真实场景。
视觉定位：具备视觉 grounding 能力。
多语言多模态理解：支持多语言理解任务。
视频理解：能够理解和分析视频内容。
GUI 交互：支持图形用户界面定位和操作。
空间推理：具备空间关系理解和推理能力。
语言能力：得益于原生多模态预训练，InternVL3 系列在整体文本性能上优于 Qwen2.5 系列。
输入输出
输入格式：支持图像、文本、视频、多图像序列、图像文本交错序列等多种模态数据输入。
输出格式：文本回复，支持推理过程展示。
运行要求
依赖版本：需要使用 transformers>=4.42.0 以确保模型正常运行。
推理精度：支持 16 位（bf16/fp16）推理。
量化支持：支持 BNB 8 位量化。
多卡部署：支持多 GPU 推理，需确保 LLM 的首层和末层在同一设备上以避免错误。
部署工具：推荐使用 LMDeploy 进行模型压缩、部署和服务。
基本用法
模型加载：提供 16 位推理和 8 位量化两种加载方式。
推理方式：支持使用 Transformers 进行推理，支持流式输出。
微调支持：多个开源项目支持 InternVL 系列模型的微调，包括 InternVL、SWIFT、XTurner 等。
服务部署：使用 LMDeploy 可通过单条命令将模型打包为服务，提供兼容 OpenAI 接口的 RESTful API。
多图像推理：可将多张图像放入同一列表中进行处理，需注意输入 token 数量会增加。
批量推理：支持批量提示词推理，将提示词放入列表结构中即可。
多轮对话：支持使用 OpenAI 格式构建消息或使用 pipeline.chat 接口进行多轮对话。
限制
该模型为多模态大型语言模型，使用时需注意输入 token 数量对上下文窗口的影响。
License
本项目基于 MIT 许可证发布。本项目使用了预训练的 Qwen2.5 作为组件，Qwen2.5 基于 Qwen 许可证授权。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
Problem with the information or download?
Sign in to submit feedback.