模型介绍
中文整理Ministral 3 8B Base 2512
模型用途
适用于本地或嵌入式系统中平衡性能需求,兼具多功能性与效率。受限环境下的聊天界面、本地日常AI助手、图像与文档描述及理解、翻译与内容生成、专业智能体用例、微调与专业化等场景。
主要能力
视觉能力:支持分析图像并基于视觉内容提供文本洞察。多语言支持:涵盖英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语、阿拉伯语等数十种语言。边缘优化:小规模部署下提供顶级性能,可部署于各类环境。Apache 2.0许可证:开源许可,允许商业和非商业用途的修改与使用。大上下文窗口:支持256k上下文。架构包含8.4B语言模型和0.4B视觉编码器。
输入输出
输入:文本和图像。输出:文本。
运行要求
BF16精度下需24GB显存,量化后可低于12GB显存或内存。支持在单块H200 GPU上运行。建议使用vLLM框架,vLLM版本需大于等于1.12.0,mistral-common版本需大于等于1.8.6。
基本用法
该模型为预训练基础版本,未针对指令或推理任务进行微调,适合自定义后训练流程。如需指令和聊天用例,建议使用Ministral 3 8B Instruct 2512版本。可通过vLLM或Transformers框架加载使用。
限制
不得以侵犯、挪用或以其他方式违反第三方权利(包括知识产权)的方式使用本模型。
许可证
Apache 2.0许可证。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
