模型介绍
中文整理Erlangshen-DeBERTa-v2-186M-Chinese-SentencePiece
Github: Fengshenbang-LM
Docs: Fengshenbang-Docs
简介 Brief Introduction
善于处理NLU任务,采用sentence piece分词的,中文版的1.86亿参数DeBERTa-v2。
Good at solving NLU tasks, adopting sentence piece, Chinese DeBERTa-v2 with 186M parameters.
模型分类 Model Taxonomy
需求 Demand 任务 Task 系列 Series 模型 Model 参数 Parameter 额外 Extra
:----: :----: :----: :----: :----: :----:
通用 General 自然语言理解 NLU 二郎神 Erlangshen DeBERTa-v2 186M 中文-分句 Chinese-SentencePiece
模型信息 Model Information
为了得到一个中文版的DeBERTa-v2(186M),我们用悟道语料库(180G版本)进行预训练。我们使用了Sentence Piece的方式分词(词表大小:约128000)。具体地,我们在预训练阶段中使用了封神框架大概花费了8张3090TI(24G)约21天。
To get a Chinese DeBERTa-v2 (186M), we use WuDao Corpora (180 GB version) for pre-training. We employ the sentence piece as the tokenizer (vocabulary size: around 128,000). Specifically, we use the fengshen framework in the pre-training phase which cost about 21 days with 8 3090TI(24G) GPUs.
下游效果 Performance
我们展示了下列下游任务的结果(dev集):
We present the results (dev set) on the following tasks:
Model OCNLI CMNLI
- --------------------------------------------------- ------ ------
RoBERTa-base 0.743 0.7973
- *Erlangshen-DeBERTa-v2-186M-Chinese-SentencePiece** 0.7625 0.8100
使用 Usage
引用 Citation
如果您在您的工作中使用了我们的模型,可以引用我们的论文:
If you are using the resource for your work, please cite the our paper:
也可以引用我们的网站:
You can also cite our website:
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.
