模型介绍
中文整理模型用途
Ministral 3 14B 是 Ministral 3 系列中规模最小的模型,专为边缘部署设计。该模型经过推理任务训练,适用于数学、编程和科学相关用例。
主要能力
视觉分析:支持图像分析,可基于视觉内容提供洞察
多语言支持:支持数十种语言,包括英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语、阿拉伯语等
系统提示词:强支持系统提示词
代理能力:具备原生函数调用和 JSON 输出的最佳代理能力
推理能力:擅长复杂多步推理和动态问题解决
边缘优化:小规模部署性能优异,可在任何环境部署
大上下文窗口:支持 256k 上下文窗口
输入输出
输入:文本和图像
输出:文本响应、推理结果、JSON 格式输出
运行要求
支持在多种硬件上运行
可在本地部署
BF16 精度下需 32GB VRAM
量化后可在 24GB 以下 RAM/VRAM 运行
基本用法
系统提示词:使用提供的系统提示词,并将其附加到自定义系统提示词中
多轮对话:建议保留推理轨迹在上下文中
采样参数:大多数环境建议使用温度为 1
工具使用:保持工具集精确定义,数量控制在最少必要范围
图像输入:使用视觉能力时,建议保持宽高比接近 1:1,避免过窄或过宽的图像
限制
不得以侵犯、盗用或违反任何第三方权利(包括知识产权)的方式使用该模型。
许可证
Apache 2.0 许可证,允许商业和非商业用途的使用和修改。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
