模型介绍
中文整理# Mistral Small 4 119B A6B
模型概述
Mistral Small 4 是一款强大的混合模型,可同时作为通用指令模型和推理模型使用。它将三种不同模型系列的功能整合为单一统一模型:Instruct、Reasoning(原Magistral)和Devstral。
模型用途
- 通用聊天助手
- 编程与代码开发
- 智能体任务
- 推理任务(需开启推理模式)
- 文档和图像理解,用于数据提取和分析
- 定制化微调
目标用户群体:开发者、企业级聊天助手和智能体构建者、需要文档理解能力的组织、以及利用数学和研究能力的研究人员。
## 主要能力
- **推理模式**:可在快速回复模式和深度推理模式之间切换,复杂任务时启用推理可提升性能
- **视觉理解**:分析图像并基于视觉内容提供洞察
- **多语言支持**:支持数十种语言,包括英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语和阿拉伯语
- **系统提示**:强支持系统提示词
- **智能体能力**:原生函数调用和JSON输出
- **速度优化**:提供卓越的性能和速度
- **长上下文窗口**:支持256k上下文长度
## 输入输出
- **多模态输入**:接受文本和图像输入
- **输出**:仅文本输出
运行要求
- **架构**:MoE(混合专家),128位专家,4位活跃
- **参数总量**:119B
- **激活参数**:每token激活6.5B
- **上下文长度**:256k
- **推理工作负载**:支持按请求配置推理强度
基本用法
- *推理强度设置**:
- 设置为"none":不启用推理,适用于日常任务的快速轻量回复
- 设置为"high":启用深度推理,适用于复杂问题(推荐)
- *温度参数**:
- 推理强度为"high"时:0.7
- 推理强度为"none"时:根据任务需求在0.0至0.7之间调整
许可证
本模型采用Apache 2.0许可证,允许商业和非商业使用。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
