Model details
模型介绍
中文整理InternVL3-8B
Model use case
InternVL3是一款先进的多模态大语言模型系列，在多模态感知和推理方面表现出色。该模型可用于工具使用、GUI代理操作、工业图像分析、3D视觉感知等任务。
主要能力
多模态推理和数学能力；OCR、图表和文档理解；多图像和现实世界理解；综合多模态评估和幻觉检测；视觉定位；多模态多语言理解；视频理解；GUI定位；空间推理。相比InternVL 2.5，InternVL3在各项能力上均有提升，并具备更好的长文本理解能力。
输入输出
支持图像、视频、文本作为输入，输出文本响应。支持多图像输入和批量提示推理。
运行要求
建议使用transformers>=4.37.2。推荐使用16位(bf16/fp16)精度运行。支持多GPU部署，需要确保首层和末层在同一设备上以避免推理错误。支持8位量化(BNB)。
基本用法
模型加载：使用transformers库加载模型，支持16位精度和8位量化模式。推理方式：支持单轮对话、多轮对话、流式输出。部署工具：可使用LMDeploy进行模型压缩、部署和服务化，支持OpenAI风格接口。
限制
原始文档未明确说明具体限制事项。
License
本项目采用MIT许可证发布。本项目使用了Qwen2.5预训练模型作为组件，该组件采用Qwen许可证。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖，以原作者说明为准。
授权范围是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
Problem with the information or download?
Sign in to submit feedback.
