模型介绍
中文整理Ministral 3 3B Reasoning 2512 GGUF
模型用途
Ministral 3 3B 是 Ministral 3 系列中最小的模型，也是一个功能强大、高效的小型语言模型，具有视觉能力。该模型专为推理任务训练，适用于数学、编码和 STEM 相关用例。Ministral 3 系列专为边缘部署设计，可在各种硬件上运行。
主要能力
该模型包含两个主要架构组件：34 亿参数的语言模型和 4 亿参数的视觉编码器。
视觉能力：可分析图像并基于视觉内容提供见解。
多语言支持：支持数十种语言，包括英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语、阿拉伯语等。
系统提示：对系统提示有很强的 adherence 和支持。
代理能力：提供原生函数调用和 JSON 输出的最佳代理能力。
推理：擅长复杂的多步推理和动态问题解决。
边缘优化：在小型规模下提供最佳性能，可部署在任何地方。
大上下文窗口：支持 256k 上下文窗口。
输入输出
输入：文本和图像
输出：文本
运行要求
Ministral 3 3B 可在 BF16 格式下部署在 16GB VRAM 中，量化后所需内存少于 8GB。
基本用法
系统提示：使用提供的系统提示，并将其附加到自定义系统提示中，以定义清晰的环境和用例，包括如何有效利用代理系统中工具的指导。
多轮对话：建议将推理轨迹保留在上下文中。
采样参数：建议使用 0.7 的温度；可根据不同用例探索不同温度。
工具：保持工具集定义明确，并将数量限制在用例所需的最少数量，避免向模型加载过多工具。
视觉：部署视觉能力时，建议保持图像宽高比接近 1:1，避免使用过窄或过宽的图像，必要时进行裁剪以确保最佳性能。
限制
不得以侵犯、盗用或以其他方式违反第三方权利（包括知识产权）的方式使用本模型。
许可证
本模型采用 Apache 2.0 许可证，允许商业和非商业用途的使用和修改。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。