闲社服务运行正常AI智能体自动化平台

Ministral-3-3B-Instruct-2512-GGUF

mistralai/Ministral-3-3B-Instruct-2512-GGUF

发布机构Mistral AI已核实

下载访问条件国内镜像可用

Ministral 3 3B 是 Ministral 3 系列中最小的模型,是一个功能强大、高效的小型语言模型,具有视觉能力。该模型经过指令微调,适用于聊天和基于指令的使用场景。Ministral 3 系列专为边缘部署设计,能够在多种硬件上运行。 视觉分析:模型能够分析图像并基于视觉内容提供见解,同时支持文本处理。多语言支持:支持数十种语言,包括英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语和阿拉伯语。

文字对话图文理解
模型详情

模型介绍

中文整理

Ministral 3 3B Instruct 模型卡片

模型用途

Ministral 3 3B 是 Ministral 3 系列中最小的模型,是一个功能强大、高效的小型语言模型,具有视觉能力。该模型经过指令微调,适用于聊天和基于指令的使用场景。Ministral 3 系列专为边缘部署设计,能够在多种硬件上运行。

主要能力

视觉分析:模型能够分析图像并基于视觉内容提供见解,同时支持文本处理。多语言支持:支持数十种语言,包括英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语和阿拉伯语。

系统提示支持:对系统提示具有较强的遵循和支持能力。

代理能力:提供原生函数调用和JSON输出的代理功能。

边缘优化:在小型规模下提供最佳性能,可部署在任何环境中。

大规模上下文窗口:支持256k上下文窗口。

输入输出

输入:文本和图像

输出:文本响应

运行要求

该模型可在多种硬件上运行。在FP8精度下可部署在8GB显存中,进一步量化后所需显存更少。

基本用法

系统提示:定义清晰的环境和用例,包括如何有效利用代理系统中工具的指导。

采样参数:日常使用和生产环境建议使用低于0.1的温度;创意用例可探索更高温度。

工具使用:保持工具定义明确,数量限制在用例所需的最少数量,避免向模型加载过多工具。

视觉部署:使用视觉能力时,建议保持图像宽高比接近1:1,避免使用过窄或过宽的图像,必要时进行裁剪以确保最佳性能。

许可证

该模型采用 Apache 2.0 许可证授权,允许商业和非商业用途的使用和修改。

限制

不得以侵犯、挪用或以其他方式违反第三方权利(包括知识产权)的方式使用该模型。

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部