模型详情
模型介绍
中文整理# Kimi-VL-A3B-Thinking-2506 模型卡片
Model use case
Kimi-VL-A3B-Thinking-2506 是一个视觉语言模型（VLM），具备多模态推理、视觉理解和视频理解能力，适用于需要处理图像、视频和文本的综合任务场景。
## 主要能力
- *思考效率提升**：在多模态推理基准测试中达到更高准确率，同时平均思考长度减少20%。MathVision得分56.9，MathVista得分80.1，MMMU-Pro得分46.3，MMMU得分64.0。
- *视觉理解能力**：在通用视觉感知和理解任务上表现优异，MMBench-EN-v1.1得分84.4，MMStar得分70.4，RealWorldQA得分70.0，MMVet得分78.4，达到或超越非思考版本模型（Kimi-VL-A3B-Instruct）的能力。
- *视频理解能力**：在视频推理和理解基准测试中取得领先成绩，VideoMMMU得分65.2（开源模型最优），Video-MME得分71.9。
- *高分辨率支持**：单张图像支持最高320万像素，是前一版本的4倍。V* Benchmark得分83.2，ScreenSpot-Pro得分52.8，OSWorld-G得分52.5。
## 输入输出
- *输入**：图像、视频、文本提示
- *输出**：文本响应
运行要求
- *推理框架**：推荐使用VLLM进行推理，已支持Kimi-VL系列模型。
- *硬件要求**：需要GPU进行推理。建议安装flash-attn以避免CUDA内存溢出。
- *开发环境**：推荐使用Python 3.10，torch 2.1.0及以上版本，transformers 4.48.2版本。
基本用法
可通过VLLM或Hugging Face Transformers库进行推理。具体使用方法请参考官方文档。
限制
模型生成的最大输出长度为32K tokens。
许可证
请参考官方GitHub仓库获取许可证信息。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境
运行模型需要的设备、工具与依赖，以原作者说明为准。
授权范围
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。