Model details
模型介绍
中文整理StableLM-Base-Alpha-7B-v2 模型卡片
Model use case
StableLM-Base-Alpha-7B-v2 是一个拥有70亿参数的解码器语言模型,在多样化的英语数据集上进行预训练。该模型是 StableLM-Base-Alpha-7B 的后续版本,通过改进数据来源和混合比例来弥补之前的不足。
主要能力
该模型是基于 Transformer 解码器架构的自回归语言模型,具备文本生成能力。可作为基础模型用于应用特定的微调。
输入输出
输入:文本序列
输出:生成的文本序列
运行要求
该模型使用 GPT-NeoX 库实现。推荐使用 GPU 运行,训练时采用混合精度(FP16)并使用 AdamW 优化器。Tokenizer 为 NeoX,词汇量为 50,257。
基本用法
用户可通过代码调用该模型进行文本生成。该模型适用于作为基础模型进行下游任务微调,商业使用无严格限制。
限制
预训练数据集可能包含冒犯性或不适当内容,即使在应用数据清洗过滤器后仍可能有残留,可能反映在模型生成的文本中。建议用户在生产系统中谨慎使用。不要将该模型用于可能对个人或群体造成伤害或困扰的应用。
License
模型检查点采用 Creative Commons 许可证(CC BY-SA-4.0)。根据该许可证,用户必须注明 Stability AI 的贡献,提供许可证链接,并说明是否做了修改。可以任何合理方式署名,但不得以暗示 Stability AI 认可您或您的使用的方式进行。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.