模型介绍
中文整理Ministral 3 3B Instruct 2512 模型卡片
模型用途
Ministral 3 3B 是一款面向边缘部署的小型语言模型，具备视觉理解能力。该模型经过指令微调，适用于以下场景：
图像标注
文本分类
实时高效翻译
数据提取
短内容生成
微调与专业化定制
其他轻量级、实时性要求高的边缘或低资源设备应用
主要能力
模型架构：3.4B语言模型 + 0.4B视觉编码器
视觉理解：可分析图像并基于视觉内容提供洞察，同时支持文本处理
多语言支持：支持数十种语言，包括英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语、阿拉伯语等
系统提示词：保持对系统提示词的强支持
智能代理：提供原生函数调用和JSON输出的最佳代理能力
边缘优化：小规模下实现最佳性能，可部署于各类环境
大上下文窗口：支持256k上下文窗口
许可证：Apache 2.0许可证，允许商业和非商业用途的使用与修改
输入输出
输入：文本和/或图像
输出：文本响应，支持结构化JSON输出
运行要求
硬件：可在单块H200 GPU上运行，FP8精度下仅需约8GB显存，进一步量化可减少显存占用
系统提示词：定义清晰的环境和用例，包括如何有效利用代理系统中工具的指导
采样参数：日常使用和生产环境建议temperature低于0.1；创意场景可探索更高温度
工具使用：保持工具集定义清晰，数量限制在用例所需的最小值
视觉输入：建议保持图像宽高比接近1:1，避免过窄或过宽的图像
基本用法
推荐使用vLLM部署。确保安装vLLM >= 0.12.0 和 mistral-common >= 1.8.6。
启动参数注意事项：
enable-auto-tool-choice：启用工具使用时必需
tool-call-parser mistral：启用工具使用时必需
- -max-model-len：可设置以节省内存，默认262144
- -max-num-batched-tokens：可平衡吞吐量和延迟
也可使用Transformers库加载模型，需安装mistral-common >= 1.8.6以使用分词器。
限制
不得以侵犯、盗用或以其他方式违反任何第三方权利（包括知识产权）的方式使用本模型。
许可证
本模型采用Apache 2.0许可证授权。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。