模型介绍
中文整理# Ministral 3 14B Reasoning 2512
模型用途
Ministral 3 14B 是 Ministral 3 系列中规模最大的模型,提供前沿性能和与更大模型 Mistral Small 3.2 24B 相当的表现。这是一款具备视觉能力的强大且高效的语言模型。作为推理后训练版本,该模型专为推理任务设计,特别适合数学、编程和 STEM 相关应用场景。Ministral 3 系列专为边缘部署设计,能够在广泛的硬件上运行。
## 主要能力
- *视觉理解**:使模型能够分析图像并基于视觉内容提供洞察,同时处理文本输入。
- *多语言支持**:支持数十种语言,包括英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语、阿拉伯语等。
- *系统提示**:保持对系统提示的强一致性和支持。
- *代理能力**:提供同类最佳的代理能力,支持原生函数调用和 JSON 输出。
- *推理能力**:擅长复杂的多步骤推理和动态问题解决。
- *边缘优化**:在小型规模上提供同类最佳性能,可部署在任何环境中。
- *大上下文窗口**:支持 256k 上下文窗口。## 输入输出
支持文本和图像输入,输出文本内容及推理过程。
运行要求
可在多种硬件上运行,支持本地部署。在 BF16 精度下可容纳于 32GB VRAM,量化后所需内存/显存低于 24GB。建议使用 2xH200 GPU 进行部署以支持大上下文场景;如无需大上下文,可使用单 GPU。
基本用法
系统提示:使用提供的系统提示,并将其附加到自定义系统提示中,以定义清晰的环境和用例,包括如何有效利用代理系统中工具的指导。
多轮对话:建议在上下文中保留推理轨迹。
采样参数:大多数环境下建议使用温度为 1;可根据不同用例探索不同温度设置。
工具使用:保持工具集定义明确,将工具数量限制为用例所需的最低数量。
视觉能力:部署视觉功能时,建议保持图像宽高比接近 1:1,避免使用过窄或过宽的图像,必要时进行裁剪以确保最佳性能。
许可证
本模型采用 Apache 2.0 许可证授权,允许商业和非商业用途的使用和修改。不得以侵犯、盗用或以其他方式违反第三方权利(包括知识产权)的方式使用本模型。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
