模型介绍
中文整理Ministral 3 8B Instruct 2512
模型用途
适用于本地或嵌入式系统中平衡性能需求，结合多功能性与效率。典型应用场景包括：受限环境下的聊天界面、本地日常AI助手、图像和文档描述与理解、翻译和内容生成、专业化代理任务场景、微调和专业化定制。
主要能力
该模型包含两个主要架构组件：84亿参数语言模型和4亿参数视觉编码器。
视觉能力：支持分析图像并基于视觉内容提供见解，同时处理文本输入。
多语言能力：支持数十种语言，包括英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语、阿拉伯语等。
系统提示支持：保持对系统提示的强 adherence 和支持。
代理能力：提供一流的多代理能力，支持原生函数调用和JSON输出。
边缘优化：在小规模下提供一流性能，可灵活部署。
大上下文窗口：支持25.6万token上下文窗口。
输入输出
支持文本和图像多模态输入，可输出文本、JSON结构化数据及函数调用结果。
运行要求
Ministral 3系列专为边缘部署设计，支持广泛硬件范围。该8B模型可在本地部署，FP8精度下仅需12GB显存，进一步量化可降低显存需求。
推荐设置：
系统提示：定义清晰的环境和用例，包括如何有效利用代理系统中工具的指导。
采样参数：日常使用和生产环境建议使用低于0.1的温度；创意场景可探索更高温度。
工具：保持工具集定义清晰且数量精简，避免向模型加载过多工具。
视觉部署：建议保持图像宽高比接近1:1，避免使用过窄或过宽的图片，必要时进行裁剪以确保最佳性能。
基本用法
该模型为指令微调版本，采用FP8精度，适合聊天和基于指令的使用场景。
限制
不得以任何侵犯、盗用或违反第三方权利（包括知识产权）的方式使用本模型。
许可证
Apache 2.0许可证：开源许可证，允许商业和非商业用途的修改和使用。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。