模型介绍
中文整理InternVL3-8B-Instruct
模型简介
InternVL3-8B-Instruct 是 InternVL3 系列的指令微调版本，经过了原生多模态预训练和监督微调，但未经过 MPO（混合偏好优化）。该模型是一款先进的多模态大语言模型，在整体性能上表现出色。
主要能力
InternVL3 在多模态感知和推理能力方面优于 InternVL 2.5，并进一步扩展了多模态能力，包括工具使用、GUI 代理、工业图像分析、三维视觉感知等。与 Qwen2.5 Chat 模型相比，InternVL3 系列由于采用原生多模态预训练，在整体文本性能上表现更优。
模型支持的功能包括：多模态推理与数学、OCR、图表与文档理解、多图像与现实世界理解、综合多模态评估与幻觉测试、视觉定位、多模态多语言理解、视频理解、GUI 定位和空间推理。
输入输出
模型接受图像、文本、视频及多图像作为输入，输出文本响应。支持动态分辨率策略，将图像分割为 448×448 像素的瓦片。采用像素重排操作，将视觉 token 数量减少至原来的四分之一。
运行要求
建议使用 transformers>=4.42.0 以确保模型正常运行。支持 16 位（bf16/fp16）精度和 BNB 8 位量化。多 GPU 推理时需注意确保 LLM 的首层和末层在同一设备上，以避免错误。
基本用法
模型加载：支持 16 位精度加载和 8 位量化加载。推理：可使用 Transformers 库进行推理，支持流式输出。部署：可使用 LMDeploy 工具进行压缩、部署和服务化。支持多图像推理、批量提示推理和多轮对话。
限制
该模型为 SFT 版本，未经过 MPO 训练。如不确定使用哪个版本，建议使用 InternVL3-8B 版本。
许可证
本项目基于 MIT 许可证发布。本项目使用了预训练的 Qwen2.5 作为组件，该组件基于 Apache-2.0 许可证。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。