模型介绍
中文整理InternVL3-14B-Pretrained
模型简介
InternVL3-14B-Pretrained 是 InternVL3-14B 的预训练版本，已完成原生多模态预训练，但未经过后训练（即监督微调和偏好优化）。如果不确定使用哪个版本，请使用 InternVL3-14B 版本。
Model use case
InternVL3-14B-Pretrained 是一个先进的多模态大语言模型系列，在多模态感知和推理能力方面表现优于 InternVL 2.5。该模型支持工具使用、图形用户界面代理、工业图像分析、三维视觉感知等能力。
主要能力
多模态推理与数学能力：支持复杂的多模态推理任务和数学问题解答。
光学字符识别、图表与文档理解：能够识别和理解图像中的文字、图表和文档内容。
多图像与现实世界理解：支持处理多张图像和视频数据。
视觉定位：具备精确的视觉定位能力。
多模态多语言理解：支持多种语言的多模态理解任务。
视频理解：能够理解和分析视频内容。
图形用户界面定位：支持界面元素的识别和定位。
空间推理：具备一定的空间推理能力。
长上下文理解：得益于可变视觉位置编码技术，模型在长上下文理解方面表现更好。
文本性能：由于采用原生多模态预训练，InternVL3 系列的整体文本性能优于 Qwen2.5 系列。
输入输出
输入格式：图像、文本、视频或图像-文本交错的序列
输出格式：文本响应
运行要求
框架版本：需要使用 transformers>=4.37.2
硬件要求：需要 GPU 进行推理
多 GPU 推理：为避免推理过程中因张量不在同一设备上导致的错误，需确保大语言模型的首层和最后一层在同一设备上
基本用法
模型加载：支持 16 位（bf16/fp16）精度、BNB 8 位量化以及多 GPU 加载
推理方式：可使用 Transformers 库进行推理，支持流式输出
微调支持：多个代码库支持 InternVL 系列模型的微调，包括 InternVL、SWIFT、XTurner 等
部署方式：可使用 LMDeploy 进行模型压缩、部署和服务化
多图像推理：支持将多张图像放入同一列表进行推理
批量提示推理：支持批量提示推理
多轮对话：支持通过 pipeline.chat 接口或 OpenAI 格式进行多轮对话
License
本项目基于 MIT 许可证发布。本项目使用了预训练的 Qwen2.5 作为组件，该组件基于 Apache-2.0 许可证授权。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
Problem with the information or download?
Sign in to submit feedback.