模型介绍
中文整理StableLM 2 12B Chat 模型卡片
模型描述
StableLM 2 12B Chat 是一个拥有120亿参数的指令微调语言模型,基于公开数据集和合成数据集训练,采用直接偏好优化(DPO)技术。
主要能力
该模型是一个自回归语言模型,基于Transformer解码器架构构建。支持对话式交互和函数调用功能。使用ChatML指令格式处理输入。
运行要求
使用该模型需要安装transformers>=4.40.0版本。
输入输出
输入:采用ChatML格式的指令,可通过tokenizer的apply_chat_template方法调用
输出:对话回复
基本用法
StableLM 2 12B Chat 使用ChatML指令格式。该格式可通过tokenizer的apply_chat_template方法调用。模型支持函数调用功能。
许可证
StabilityAI非商业研究社区许可证。如需将该模型用于商业产品或目的,请联系lm@stability.ai了解更多。
使用限制
该模型适用于聊天类应用。开发者必须在特定使用场景下评估模型的安全性。
建议将该模型与输入和输出分类器配合使用,以防止产生有害回复。使用该模型需要对输入和输出设置防护措施,确保返回的内容不包含幻觉内容。由于每个使用场景不同,建议运行自己的测试套件以确保模型正常运行。如果模型不适合您的应用,或可能对他人造成直接或间接伤害,请勿使用该模型。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
