模型介绍
中文整理# Ministral 3 3B Instruct 模型说明
模型用途
Ministral 3 3B 是 Ministral 3 系列中最小的模型,是一款功能强大、高效的轻量级语言模型,具备视觉理解能力。该模型采用 ONNX 格式的量化权重,基于指令微调版本训练,专门针对聊天和指令任务场景优化。Ministral 3 系列专为边缘部署设计,能够在多种硬件上运行。
## 主要能力
- *架构组成**:3.4B 语言模型 + 0.4B 视觉编码器
- *视觉理解**:支持分析图像内容,除文本外还能基于视觉内容提供洞察
- *多语言支持**:支持数十种语言,包括英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语、阿拉伯语等
- *系统提示词**:对系统提示词有良好的支持能力
- *智能代理**:具备原生函数调用和 JSON输出的能力
- *边缘优化**:在轻量级规模下实现优秀性能,可灵活部署到各种场景
- *长上下文**:支持 256K 上下文窗口
## 输入输出
- *输入**:文本和图像
- *输出**:文本回复及基于图像内容的分析结果
运行要求
该模型可在多种硬件上运行。支持本地部署,在 FP8 精度下可适配 8GB 显存,进一步量化后可占用更少资源。
基本用法
可通过 Transformers.js JavaScript 库在浏览器中使用,也可使用 ONNXRuntime 运行。具体使用方法请参考官方文档。
## 限制说明
该模型已完成初步功能检查,但尚未进行完整测试。建议谨慎使用,并根据具体应用场景自行评估。如遇问题,可提交 Issue 反馈。
许可证
本模型采用 Apache 2.0 开源许可证,允许商业和非商业用途的使用与修改。但不得以侵犯、挪用或违反第三方权利(包括知识产权)的方式使用本模型。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
