模型详情
模型介绍
中文整理# Infinity Instruct
- *模型名称**: Infinity-Instruct-3M-0625-Qwen2-7B
- *模型类型**: 开源监督指令微调模型,未使用人类反馈强化学习(RLHF)
模型用途
该模型是一个指令微调语言模型,旨在提升模型在数学、代码和聊天对话方面的能力。通过在百万级指令数据集Infinity-Instruct上进行微调,模型能够遵循用户指令完成各类任务。
## 主要能力
模型在两个主流指令跟随基准测试上表现良好:
- **MT-Bench**: 包含代码、数学和常规对话等具有挑战性的多轮问题集,得分8.3
- **AlpacaEval 2.0**: 基于AlpacaFarm评估集,使用GPT-4评判模型答案,得分21.9
该模型在数学和代码能力上得到提升,同时具备较强的聊天对话能力。
## 训练过程
模型分两步训练:首先使用Infinity-Instruct-3M基础数据集提升Qwen2-7B的基础能力(数学与代码),得到基础指令模型;然后对该基础模型进行进一步微调,得到最终的聊天模型。
## 输入输出
- **输入**: 用户指令或对话内容,采用与Qwen2-7B-Instruct相同的聊天模板
- **输出**: 遵循指令的文本回复
运行要求
模型基于Qwen2-7B架构,需要相应的推理资源支持。
基本用法
模型采用与Qwen2-7B-Instruct相同的聊天模板,可参考Qwen2的对话模板格式进行使用。
限制
- 模型输出受随机性等不可控因素影响,无法保证输出内容的准确性
- 不对模型输出内容承担任何法律责任
## 许可证相关信息
本项目资源(包括代码、数据和模型权重)仅限学术研究使用,不得用于商业目的。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。