Model details
模型介绍
中文整理InternVL3-14B
Model use case
InternVL3-14B 是一个先进的多模态大型语言模型系列,旨在提供卓越的总体性能。该模型在多模态感知和推理能力方面表现优异,并进一步扩展到工具使用、GUI 代理、工业图像分析、三维视觉感知等领域。
主要能力
InternVL3-14B 在多项任务上展现出强大的能力,包括:多模态推理与数学、OCR 图表与文档理解、多图像与现实世界理解、综合多模态评估与幻觉测试、视觉定位、多模态多语言理解、视频理解、GUI 定位以及空间推理。得益于原生多模态预训练,InternVL3 系列在整体文本性能上优于 Qwen2.5 系列。
输入输出
模型支持图像、文本、视频、多图像、视频-文本或图像-文本交错序列等多种输入形式。输出为文本响应。
运行要求
使用该模型需要安装 transformers>=4.42.0 版本。模型支持 16 位(bf16/fp16)精度和 BNB 8 位量化部署。由于多 GPU 推理时需确保张量在同一设备上,建议将 LLM 的首层和最后一层放置在同一设备以避免错误。模型采用像素重组操作,将视觉 token 数量减少至原来的四分之一,并采用 448×448 像素的动态分辨率策略分割图像。
基本用法
模型加载后,可使用 transformers 库进行推理。支持流式输出、多图像推理、批量提示推理以及多轮对话。LMDeploy 提供了压缩、部署和服务 LLM 及 VLM 的工具包,可将多模态视觉语言模型的复杂推理过程抽象为易于使用的 pipeline,支持快速启动服务并提供与 OpenAI 兼容的 RESTful API。
限制
该模型为多模态大型语言模型,在特定领域的专业任务上表现可能受限。模型输出受限于其训练数据和能力范围。
License
本项目基于 MIT 许可证发布。本项目使用了预训练的 Qwen2.5 作为组件,Qwen2.5 基于 Qwen 许可证授权。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.