模型介绍
中文整理Ministral 3 3B Base 2512 模型卡片
模型用途
Ministral 3 3B 是 Ministral 3 系列中最小的模型，具有视觉能力的轻量级语言模型。该模型为基础预训练版本，未针对指令或推理任务进行微调，适合用于自定义后训练流程。适用于边缘或低资源设备上的轻量级实时应用场景，包括图像描述、文本分类、实时翻译、数据提取、短内容生成以及模型微调和专业化等领域。
主要能力
该模型由两个主要架构组件构成：3.4B 语言模型和 0.4B 视觉编码器。
视觉能力：支持分析图像并基于视觉内容提供文本见解，实现多模态理解。
多语言支持：支持数十种语言，包括英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语和阿拉伯语。
边缘优化：在小规模下提供同类最佳性能，可灵活部署到各种环境。
大上下文窗口：支持 256k 上下文长度。
许可证：采用 Apache 2.0 开源许可证，允许商业和非商业用途的使用和修改。
输入输出
输入：支持文本和图像两种模态的输入。
输出：文本形式的分析结果、描述、分类标签、翻译内容等。
运行要求
该模型针对边缘部署设计，支持广泛的硬件运行。在 BF16 精度下可部署于 16GB VRAM 环境，量化后所需内存可低于 8GB。建议使用单块 H200 GPU 运行。
基本用法
该模型支持 vLLM 和 Transformers 两种框架使用。
使用 vLLM 时，建议安装 vllm >= 1.12.0 版本，可通过单命令启动服务。
使用 Transformers 时，需安装 Transformers v5 首个候选版本或 main 分支，同时建议安装 mistral-common >= 1.8.6 以使用分词器。
限制
本模型为基础预训练版本，未经过指令微调或推理优化。如需指令和聊天场景应用，建议使用 Ministral 3 3B Instruct 2512。
许可证
本模型采用 Apache 2.0 许可证授权。使用时不得以侵犯、挪用或以其他方式违反第三方权利（包括知识产权）的方式使用本模型。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。