模型介绍
中文整理# Infinity Instruct
- *模型开发者**
北京人工智能研究院（BAAI）
- *模型用途**
开源监督指令微调模型，基于指令数据集进行微调，不使用人类反馈强化学习（RLHF）。用于指令跟随任务。
- *主要能力**
在AlpacaEval 2.0基准测试中表现优于Mixtral 8x7B v0.1、Gemini Pro和GPT-3.5。MT-Bench得分8.1，与Llama-3-8B-Instruct和Mistral-7B-Instruct-v0.2相当。在数学和代码等基础能力方面有所提升。
- *基准测试成绩**
| 模型 | MT-Bench | AlpacaEval 2.0 |
|------|----------|----------------|
| InfInstruct-3M-0613-Mistral-7B | 8.1 | 25.5 |
| GPT-3.5 Turbo 0613 | 8.4 | 22.7 |
| Mixtral 8x7B v0.1 | 8.3 | 23.7 |
| Gemini Pro | -- | 24.4 |
- *训练数据**
基于百万级指令数据集Infinity-Instruct进行微调。首先使用Infinity-Instruct-3M提升基础能力（数学与代码），得到基础指令模型；然后在基础模型上进一步微调得到更强的聊天模型。
- *运行要求**
基于Mistral-7B-v0.1微调。
- *基本用法**
采用与OpenHermes-2.5-Mistral-7B相同的聊天模板。
- *使用限制**
仅限学术研究目的，不能用于商业用途。
- *许可证**
本项目资源（包括代码、数据和模型权重）仅供学术研究使用，不得用于商业目的。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。