模型介绍
中文整理InternVL3-78B
Model use case
InternVL3-78B是一个先进的多模态大型语言模型系列，旨在提供卓越的整体性能。该模型在多模态感知和推理方面展现出 superior 的能力，并进一步扩展到工具使用、GUI代理、工业图像分析、3D视觉感知等领域。
主要能力
多模态推理与数学：具备强大的多模态推理能力，能够处理复杂的数学问题。
OCR、图表与文档理解：支持光学字符识别、图表解析和文档理解任务。
多图像与现实世界理解：能够同时处理多张图像，理解现实场景。
视觉定位：具备精确的视觉定位能力。
多模态多语言理解：支持多种语言的多模态理解任务。
视频理解：能够理解和分析视频内容。
GUI定位：支持图形用户界面元素的定位。
空间推理：具备空间关系理解和推理能力。
语言能力：得益于原生多模态预训练，InternVL3系列的整体文本性能优于Qwen2.5系列。
输入输出
输入格式：支持图像-文本对、视频-文本、图像-文本交错序列等多种多模态数据格式。
输出格式：文本回复，支持流式输出。
运行要求
框架要求：使用transformers>=4.37.2以确保模型正常运行。
精度支持：支持16位（bf16/fp16）推理。
量化支持：支持BNB 8位量化。
硬件要求：支持多GPU推理，需确保LLM的首尾层在同一设备上以避免错误。
基本用法
模型加载：可通过transformers库加载模型，支持多种精度和量化配置。
推理方式：支持流式输出、多图像推理、批量提示推理和多轮对话。
部署工具：可使用LMDeploy进行模型压缩、部署和服务化，提供RESTful API接口，兼容OpenAI风格接口。
微调支持：多个仓库支持InternVL系列模型的微调，包括InternVL、SWIFT、XTurner等。
限制
原始文档未明确说明具体的模型限制或使用限制。
License
本项目基于MIT许可证发布。本项目使用了预训练的Qwen2.5作为组件，该组件基于Qwen License授权。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
Problem with the information or download?
Sign in to submit feedback.