模型介绍
中文整理InternVL3-38B-Instruct
Model use case
InternVL3-38B-Instruct 是 InternVL3 系列的指令微调版本，经过原生多模态预训练和监督微调，但未经过 MPO（混合偏好优化）。该模型是一个先进的多模态大语言模型，在整体性能上表现出色。
主要能力
InternVL3-38B 在多模态感知和推理能力上优于 InternVL 2.5，并进一步扩展了以下能力：工具使用、GUI 代理、工业图像分析、3D 视觉感知、长上下文理解、多图像和视频数据支持。
具体评测能力包括：多模态推理与数学、OCR 与图表文档理解、多图像与现实世界理解、综合多模态与幻觉评估、视觉定位、多模态多语言理解、视频理解、GUI 定位和空间推理。
得益于原生多模态预训练，InternVL3 系列在整体文本性能上优于 Qwen2.5 系列。
输入输出
支持输入：图像、视频、文本、多图像序列、视频文本交错序列。
输出：文本响应。运行要求
建议使用 transformers>=4.42.0 以确保模型正常运行。支持 16 位（bf16/fp16）推理和 BNB 8 位量化。多 GPU 推理时需注意将 LLM 的首层和最后一层放在同一设备上以避免错误。
基本用法
模型加载：支持 16 位精度和 8 位量化两种方式加载模型。
推理方式：可使用 Transformers 库进行推理，支持流式输出。
部署工具：可使用 LMDeploy 进行模型压缩、部署和服务。LMDeploy 将多模态视觉语言模型的复杂推理过程封装为易于使用的管道，支持 OpenAI 风格的 RESTful API 接口。
多图像推理：将多张图像放入同一列表，注意输入 token 数量会增加，通常需要增大上下文窗口大小。
批量推理：将批量提示放入列表结构中即可进行批量推理。
多轮对话：可按照 OpenAI 格式构造消息，或使用 pipeline.chat 接口进行多轮对话。
微调支持：多个仓库支持 InternVL 系列模型的微调，包括 InternVL、SWIFT、XTurner 等。
限制
该模型为 SFT 版本，未经过 MPO 训练。如不确定使用哪个版本，建议使用 InternVL3-38B 版本。
License
本项目基于 MIT 许可证发布。本项目使用了预训练的 Qwen2.5 作为组件，Qwen2.5 基于 Apache-2.0 许可证。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
Problem with the information or download?
Sign in to submit feedback.