模型介绍
中文整理StableLM 2 12B Chat GGUF
模型用途
StableLM 2 12B Chat 是一款120亿参数的指令微调语言模型，基于公开数据集和合成数据集混合训练，采用直接偏好优化（DPO）技术。模型主要用于聊天类应用场景。
主要能力
该模型是基于Transformer解码器架构的自回归语言模型，支持英语。开发者需根据具体使用场景评估模型的安全性表现。
输入输出
模型支持交互式对话。运行需使用ChatML格式，通过llama.cpp的-cml参数启用。
运行要求
需安装llama.cpp b2684或更高版本。需下载GGUF格式模型文件。
基本用法
下载任意可用的GGUF文件，使用llama.cpp主程序运行模型进行推理。
限制
强烈建议将该模型与输入输出分类器配合使用，以防止产生有害回复。使用该模型需要在输入和输出端设置护栏，确保返回的内容不包含幻觉内容。由于每个使用场景各不相同，建议运行自己的测试套件以确保模型在特定场景中的正常表现。如模型不适合您的应用场景，或可能对他人造成直接或间接伤害，请勿使用该模型。
许可证
StabilityAI非商业研究社区许可证。如需将本模型用于商业产品或目的，请联系Stability AI了解更多详情。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。