模型介绍
中文整理Ministral 3 14B Instruct 2512 模型卡片
模型用途
Ministral 3 14B 是 Ministral 3 系列中规模最大的模型,提供前沿级能力和性能,可与更大的 Mistral Small 3.2 24B 相媲美。这是一款功能强大且高效的语言模型,具备视觉理解能力。该模型是指令微调版本,采用 FP8 精度,专门针对指令任务进行了优化,非常适合聊天和基于指令的使用场景。Ministral 3 系列专为边缘部署设计,能够在广泛的硬件上运行。
主要能力
视觉理解:使模型能够分析图像并基于视觉内容提供洞察,同时处理文本。
多语言支持:支持数十种语言,包括英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语、阿拉伯语等。
系统提示:对系统提示具有强大的遵循和支持能力。
智能代理:提供业界领先的智能代理能力,支持原生函数调用和 JSON 输出。
边缘优化:在小规模下提供业界领先的性能,可部署到任何环境。
大上下文窗口:支持 256k 上下文窗口。
许可证:采用 Apache 2.0 开源许可证,允许商业和非商业用途的使用和修改。
输入输出
输入:文本和图像(当启用视觉能力时)
输出:文本响应,可包含函数调用和 JSON 输出
运行要求
硬件要求:可在各种硬件上运行,支持本地部署。在 FP8 精度下可装入 24GB VRAM,进一步量化后所需显存更少。可在单块 H200 GPU 上运行。
软件依赖:推荐使用 vLLM >= 0.12.0,需要 mistral-common >= 1.8.6
基本用法
系统提示:定义清晰的环境和用例,包括如何有效利用智能代理系统中工具的指导。
采样参数:日常使用和生产环境建议使用低于 0.1 的温度;创意用例可探索更高温度。
工具:保持工具定义明确,将数量限制在用例所需的最少数量,避免向模型加载过多工具。
视觉能力:部署视觉能力时,建议保持接近 1:1(宽高比)的图像纵横比,避免使用过窄或过宽的图像,必要时进行裁剪以确保最佳性能。
限制
不得以侵犯、盗用或以其他方式违反任何第三方权利(包括知识产权)的方式使用本模型。
许可证
本模型采用 Apache 2.0 许可证。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
