模型介绍
中文整理# Infinity-Instruct-3M-0625-Yi-1.5-9B
- *开发者**
北京人工智能研究院(BAAI)
- *模型用途**
开源监督指令微调模型,基于Yi-1.5-9B进行微调,旨在提升模型的指令跟随能力,用于对话场景。
- *主要能力**
该模型在AlpacaEval 2.0和MT-Bench两个主流指令跟随基准测试中表现良好。模型未使用人类反馈强化学习(RLHF),通过两阶段训练:首先使用Infinity-Instruct-3M数据集提升数学和代码能力,生成基础指令模型;然后进一步微调得到更强的聊天模型。
- *基准测试成绩**
| 模型 | MT-Bench | AlpacaEval 2.0 |
|------|----------|----------------|
| InfInstruct-3M-0625-Yi-1.5-9B | 8.0 | 20.5 |
MT-Bench包含代码、数学和常规对话等多轮挑战性问题;AlpacaEval 2.0基于AlpacaFarm评估集,两者均使用GPT-4评判模型回答质量。
- *输入输出**
输入:遵循Yi-1.5-9B-Chat聊天模板的指令文本
输出:对话响应
- *运行要求**
基于Yi-1.5-9B基础模型运行。使用FlagScale技术进行训练,可合并多个训练样本以去除填充标记并应用多种加速技术,降低训练成本。
- *基本用法**
采用与Yi-1.5-9B-Chat相同的聊天模板。参考Yi-1.5-9B-Chat的对话模板和代码进行部署使用。
- *限制**
模型输出的准确性受随机性等不可控因素影响,无法保证输出内容的正确性。本项目不接受因使用相关资源和输出结果而产生的任何法律 liability。
- *许可证**
本项目资源(包括代码、数据和模型权重)仅限学术研究目的,不得用于商业用途。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
