模型介绍
中文整理# Mistral Large 3 675B Instruct 2512 BF16
模型概述
Mistral Large 3 是 Mistral 公司推出的大型多模态 Granular Mixture-of-Experts 模型,总参数规模为 675B,活跃参数为 41B。该模型从头开始训练,是指令微调版本,专门针对聊天、Agent 和指令任务进行了优化。适用于生产级助手、检索增强系统、科学计算和复杂企业工作流程。
## 主要能力
- *多模态理解**:支持图像分析和视觉内容理解,结合文本进行推理。
- *多语言支持**:支持数十种语言,包括英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语、阿拉伯语等。
- *系统提示词支持**:对系统提示词有强大的遵循能力。
- *Agent 能力**:具备原生函数调用和 JSON 输出功能,提供业界领先的 Agent 能力。
- *长上下文**:支持 256k 上下文窗口,适合长文档理解。
- *架构组成**:模型由 673B 参数的 Granular MoE 语言模型(39B 活跃参数)和 2.5B 视觉编码器组成。
运行要求
- *部署格式**:BF16 权重
- *FP8 部署**:单节点 B200 或 H200
- *NVFP4 部署**:单节点 H100 或 A100
- *推荐配置**:客户端-服务器架构部署
- *系统提示词**:定义清晰的环境和用例,指导 Agent 系统中工具的有效使用
- *采样参数**:日常使用和生产环境建议温度低于 0.1;创意场景可探索更高温度
- *工具使用**:保持工具集精简易懂,避免加载过多工具
- *图像输入**:建议保持宽高比接近 1:1,避免过窄或过宽的图像
适用场景
- 长文档理解
- 日常 AI 助手
- 先进 Agent 和工具使用能力
- 企业知识工作
- 通用编程助手
- 需要前沿能力的企业级应用
限制
- *非专用推理模型**:在严格的推理用例中,专用推理模型可能表现更优。
- *视觉任务局限**:在多模态任务中,可能落后于专门针对视觉任务优化的模型。
- *部署复杂**:由于模型规模大、架构复杂,在资源受限或大规模部署时可能面临挑战。
许可证
本模型采用 Apache 2.0 开源许可证,允许商业和非商业用途的使用和修改。
- *使用限制**:不得以侵犯、挪用或违反第三方权利(包括知识产权)的方式使用本模型。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
