模型介绍
中文整理Infinity Instruct
北京人工智能研究院（BAAI）
模型用途
Infinity-Instruct-3M-0625-Mistral-7B是一个开源监督指令微调模型，未使用人类反馈强化学习（RLHF）。该模型基于Mistral-7B-v0.1进行微调，先使用Infinity-Instruct-3M数据集提升基础能力（数学和代码），再通过Infinity-Instruct-0625数据集进一步微调得到更强的聊天模型。
主要能力
该模型在两个主流指令跟随基准上进行了评估。AlpacaEval 2.0基于AlpacaFarm评估集，使用GPT-4评判模型答案，与人类标注的Chatbot Arena有高度一致性。MT-Bench包含具有挑战性的多轮问题，涵盖代码、数学和日常对话。
在AlpacaEval 2.0上，InfInstruct-3M-0625-Mistral-7B取得31.42分，高于GPT-3.5 Turbo的22.5分。在MT-Bench上取得8.1分，与Llama-3-8B-Instruct和Mistral-7B-Instruct-v0.2等数十亿参数的先进大语言模型相当。
输入输出
模型采用与OpenHermes-2.5-Mistral-7B相同的聊天模板，支持多轮对话场景。
运行要求
模型基于Mistral-7B架构，需要支持该架构的推理环境运行。基本用法
该模型采用与OpenHermes-2.5-Mistral-7B相同的聊天模板，用户可参考相关代码将模型和模板应用于对话场景。
限制
模型未使用RLHF，输出结果受随机性等不可控因素影响，准确性无法保证。
许可证
本项目相关的代码、数据和模型权重仅限学术研究目的，不得用于商业用途。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。