Model details
模型介绍 中文整理 Mistral Small 4 119B A6B Eagle
Model use case Mistral Small 4是一款强大的混合模型,可同时作为通用指令模型和推理模型使用。它将三种不同模型系列的功能整合为单一统一模型:Instruct、Reasoning(原Magistral)和Devstral。
该模型适用于通用聊天助手、编程、代理任务和推理任务。其多模态能力还可用于文档和图像理解,进行数据提取和分析。适合开发者进行代码编写和SW自动化、探索代码库;企业用于通用聊天助手、代理和文档理解;研究人员利用其数学和研究能力。
主要能力
架构采用MoE(混合专家)设计:128个专家,4个活跃。模型总参数119B,每个token激活6.5B。支持256k上下文长度。
支持多模态输入:接受文本和图像输入,文本输出。具备Instruct和Reasoning功能,支持函数调用,推理强度可按请求配置。
核心功能包括:Reasoning模式可切换快速回复和推理模式,在请求时通过测试时计算提升性能;Vision能力分析图像并提供视觉内容洞察;多语言支持包括英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语、阿拉伯语等数十种语言;强化的System Prompt支持;原生函数调用和JSON输出的顶级代理能力;以及速度优化性能。
许可证为Apache 2.0,允许商业和非商业使用。
输入输出
输入:文本和图像
输出:文本
运行要求 推荐使用vLLM库进行生产级推理。需要安装vLLM nightly版本和transformers主分支版本。确保mistral common版本不低于1.10.0。
基本用法 推荐使用vLLM库部署模型。
推理强度设置:设为"none"时不使用推理功能;设为"high"时使用推理功能(推荐用于复杂提示词)。
Temperature设置:推理强度为"high"时使用0.7;推理强度为"none"时根据任务类型在0.0至0.7之间调整。
限制 不得以侵犯、盗用或违反第三方权利(包括知识产权)的方式使用本模型。
License 本模型采用Apache 2.0许可证。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么 完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知 运行环境 运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围 是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download? Sign in to submit feedback.
Pinned version · Multiple download options
Mistral-Small-4-119B-2603-eagle model download Download the full repository or choose a version or file.
Choose a download source China mirror (recommended) Hugging Face official
已根据访问地区推荐 Hugging Face 官方线路,你可以手动切换。
Choose what to download
Full repository · All files Selected version / file
Need just one GGUF precision? Load the file manifest and choose a version. Direct file links do not require Python; the command below can download multiple shards together.
Load available versions and files
Quantization / file Load the manifest to choose
This reads the pinned version's file manifest; no model weights are downloaded.
Choose your operating system Windows · PowerShell Linux / macOS · Terminal
For command-line downloads, follow these steps to get the full repository or selected files. Direct file links do not need these steps.
1 Open a terminal window Create and open a folder for the model. In the folder's address bar, enter powershell and press Enter.
If Python is not installed, get it from the official Python website . In the terminal, enter python --version; continue when a version number appears.
2 First time? Install the download tool Copy this command, paste it into the terminal, press Enter and wait for installation to finish.
python -m pip install --upgrade huggingface_hubCopy install command Already installed? Continue to step 3.
3 Run the download command Select the button below, paste into the same terminal and press Enter. The tool downloads all files included in the current command.
Copy full download command
Copying does not start a download. Paste and run the command on your device.
Where are the downloaded files? Open the folder you chose. Look for the models folder. When progress stops and the terminal returns to its prompt without errors, check that all files are present. 'Copied' does not mean 'downloaded'.
No response or an error? python not found: Install Python and reopen the terminal. On Windows, follow the installer's instructions to enable command-line access.
hf not found: Confirm that step 2 succeeded, then reopen the terminal. If needed, add Python's Scripts folder to your user PATH. Do not repeatedly download scripts.
Network interrupted: Stay in the same folder and run the same command again. The tool checks existing files.
Permission or disk error: Choose a writable folder with enough free space. Do not disable system security protection.
View the full download command
请开启浏览器脚本,或使用默认 Windows 教程并展开命令手动复制执行。