模型介绍
中文整理模型名称
Mistral-Small-3.2-24B-Instruct-2506
模型用途
Mistral-Small-3.2-24B-Instruct-2506 是 Mistral-Small-3.1-24B-Instruct-2503 的小幅更新版本,是一个指令跟随型语言模型。
主要能力
指令跟随:更擅长遵循精确指令
重复控制:减少无限生成或重复回答的情况
函数调用:函数调用模板更加健壮
视觉推理:具备视觉理解能力,可处理图像输入
在所有其他方面,该模型与 Mistral-Small-3.1-24B-Instruct-2503 持平或略有提升
输入输出
支持文本输入和文本输出,支持视觉推理任务
运行要求
GPU 显存需求:约 55 GB(bf16 或 fp16 格式)
推荐使用 vLLM >= 0.9.1
需要安装 mistral-common >= 1.6.2
建议使用较低温度(如 temperature=0.15)
建议添加系统提示词以获得最佳效果
基本用法
推荐使用 vLLM 框架部署
也可使用 Transformers 框架
适用于服务器/客户端架构
支持函数调用和工具调用任务
支持视觉推理场景
许可证
未在模型卡中提供许可证相关信息
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
