模型介绍
中文整理StableLM Zephyr 3B
模型用途
StableLM Zephyr 3B是一个30亿参数的语言模型，基于transformer解码器架构开发，经指令微调训练。该模型旨在作为应用特定微调的基础模型使用。
主要能力
该模型使用直接偏好优化（DPO）方法训练，在MT-Bench基准测试中得分6.64，在AlpacaEval基准测试中胜率76.00%。模型可处理英语语言任务。
输入输出
模型采用指令格式接收输入。用户可通过tokenizer的apply chat template方法调用此格式。
运行要求
模型训练使用了Stability AI集群的8个节点，每个节点配备8块A100 80GB GPU。
基本用法
用户需按照指令格式构建输入，可通过tokenizer的apply chat template方法应用该格式。Intel提供使用OpenVINO的优化版本运行方案。
限制
该模型未针对对抗性输入进行训练。建议用户配合输入输出分类器使用，以防止有害响应。模型在未被恶意引导时不会主动输出有害信息，但当用户明确要求时可能输出潜在有害内容或错误信息。每个应用场景独特，用户应自行运行测试确保模型适合其特定用途。
许可证
模型采用StabilityAI社区许可证。商业使用需参考https://stability.ai/license获取商业许可证信息。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。