闲社服务运行正常AI智能体自动化平台

Ministral-3-3B-Reasoning-2512

mistralai/Ministral-3-3B-Reasoning-2512

发布机构Mistral AI已核实

下载访问条件国内镜像可用

Ministral 3 3B Reasoning 2512 轻量级、边缘或低资源设备上的实时应用,包括图像标注、文本分类、实时翻译、数据提取、短内容生成、微调与专业化等场景。 视觉:支持分析图像并基于视觉内容提供洞察。

图文理解推理思考
模型详情

模型介绍

中文整理

Ministral 3 3B Reasoning 2512

模型用途

轻量级、边缘或低资源设备上的实时应用,包括图像标注、文本分类、实时翻译、数据提取、短内容生成、微调与专业化等场景。

主要能力

视觉:支持分析图像并基于视觉内容提供洞察。

多语言:支持数十种语言,包括英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语、阿拉伯语。

系统提示:强支持系统提示。

代理能力:提供原生函数调用和JSON输出的最佳代理能力。

推理:擅长复杂多步推理和动态问题解决。

边缘优化:小规模下提供最佳性能,可部署在任何环境。

大上下文窗口:支持256k上下文窗口。

架构包含两个主要组件:3.4B语言模型和0.4B视觉编码器。

输入输出

支持文本和图像输入,输出文本内容、JSON格式数据及函数调用结果。

运行要求

可在BF16精度下部署于16GB VRAM,量化后所需内存低于8GB。推荐在单块H200 GPU上运行。建议使用vLLM 0.12.0及以上版本和mistral-common 1.8.6及以上版本。

基本用法

系统提示:使用官方提供的系统提示并追加自定义内容,以定义清晰的环境和用例。

多轮对话:建议保留推理追踪在上下文中。

采样参数:推荐温度值为0.7,可根据用例探索不同设置。

工具使用:保持工具集明确定义,数量限制在用例所需的最小范围。

视觉输入:部署视觉能力时,建议图像宽高比接近1:1,避免过窄或过宽的图像。

限制

不得以侵犯、盗用或以其他方式违反第三方权利(包括知识产权)的方式使用本模型。

许可证

Apache 2.0许可证,允许商业和非商业用途。

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部