模型详情
模型介绍
中文整理# Mistral-Large-Instruct-2411 模型卡片
模型用途
Mistral-Large-Instruct-2411 是一个先进的密集型大语言模型（LLM），拥有1230亿参数，具备最先进的推理、知识和编码能力。该模型是 Mistral-Large-Instruct-2407 的升级版本，在长上下文处理、函数调用和系统提示方面有所提升。
## 主要能力
- *多语言支持**：支持数十种语言，包括英语、法语、德语、西班牙语、意大利语、中文、日语、韩语、葡萄牙语、荷兰语和波兰语。
- *编程能力**：基于80多种编程语言训练，包括 Python、Java、C、C++、JavaScript 和 Bash，还包括 Swift 和 Fortran 等更专业的语言。
- *代理能力**：具备同类最佳的代理能力，支持原生函数调用和 JSON 输出。
- *高级推理**：具备最先进的数学和推理能力。
- *长上下文**：支持 128k 上下文窗口。
- *强上下文一致性**：为 RAG 和大上下文应用提供强大的上下文 adherence。
- *系统提示支持**：对系统提示保持强一致性和支持，建议始终包含一个明确说明机器人角色的系统提示，即使内容简单。
## 输入输出
- *输入**：文本形式的自然语言指令或查询，支持系统提示。
- *输出**：文本形式的响应，支持 JSON 格式输出。
运行要求
- *GPU 显存**：运行该模型需要超过 300GB 的 GPU 显存。
- *软件依赖**：建议使用 vLLM 库进行推理，需要 vLLM >= v0.6.4.post1 和 mistral-common >= 1.5.0。
基本用法
该模型推荐在服务器/客户端设置中使用。可使用 vLLM 库实现生产级推理管道。函数调用功能需要使用特定标志在 vLLM 中提供服务。
许可证
Mistral Research License：允许非商业用途的使用和修改。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境
运行模型需要的设备、工具与依赖，以原作者说明为准。
授权范围
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。