模型详情
模型介绍
中文整理# Infinity Instruct
模型用途
Infinity-Instruct-3M-0625-Llama3-70B 是北京人工智能研究院（BAAI）开发的开源监督指令微调模型。该模型基于 Llama3-70B 进行微调，未使用人类反馈强化学习（RLHF）技术。
## 主要能力
该模型在两项主流指令跟随基准测试中表现优异：
- **MT-Bench**：得分 8.9，包含代码、数学和日常对话等多轮挑战性问题
- **AlpacaEval 2.0**：得分 38.0，基于 AlpacaFarm 评估集，使用 GPT-4 作为评判标准
在 AlpacaEval 2.0 测试中，该模型表现优于 GPT4-0613（30.2 分）和官方 Llama-3-70B-Instruct（34.4 分）。
## 输入输出
模型采用与 Llama3-70B-instruct 相同的聊天模板，适用于对话场景的指令跟随任务。
运行要求
模型基于 Llama3-70B 架构，运行时需要相应的硬件资源。训练过程中使用了 FlagScale 框架进行加速，通过拼接多个训练样本去除填充标记，并应用多种加速技术以降低训练成本。
基本用法
模型使用方式与 Llama3-70B-instruct 相同，需采用其聊天模板进行对话交互。
限制
- 模型输出内容受随机性等不可控因素影响，无法保证准确性
- 不承担因使用相关资源或输出结果造成的任何损失责任
许可证
本项目资源（包括代码、数据和模型权重）仅限学术研究使用，不得用于商业目的。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境
运行模型需要的设备、工具与依赖，以原作者说明为准。
授权范围
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。