All systems operationalAI Agent Automation Platform
English
Language简体中文EnglishSelected

Choose your language

Randeng-T5-Char-57M-Chinese

Fengshenbang/Randeng-T5-Char-57M-Chinese

PublisherFengshenbang

Download access requirementsModelScope source

Randeng-T5-Char-57M-Chinese Github: Fengshenbang-LM Docs: Fengshenbang-Docs

Text Processing
Model details

模型介绍

中文整理

Randeng-T5-Char-57M-Chinese

Github: Fengshenbang-LM

Docs: Fengshenbang-Docs

简介 Brief Introduction

善于处理NLT任务,中文版的T5-small,采用了BertTokenizer和中文字级别词典。

Good at handling NLT tasks, Chinese T5-small, use BertTokenizer and chinese vocab.

模型分类 Model Taxonomy

需求 Demand 任务 Task 系列 Series 模型 Model 参数 Parameter 额外 Extra

:----: :----: :----: :----: :----: :----:

通用 General 自然语言转换 NLT 燃灯 Randeng T5 57M 中文-Chinese

模型信息 Model Information

对比T5-small,训练了它的中文版。为了更好适用于中文任务,我们仅使用BertTokenzier,和支持中英文的词表,并且使用了语料库自适应预训练(Corpus-Adaptive Pre-Training, CAPT)技术在悟道语料库(180G版本)继续预训练。预训练目标为破坏span。具体地,我们在预训练阶段中使用了封神框架大概花费了8张A100约24小时。

Compared with T5-samll, we implement its Chinese version. In order to use for chinese tasks, we use BertTokenizer and Chinese vocabulary, and Corpus-Adaptive Pre-Training (CAPT) on the WuDao Corpora (180 GB version). The pretraining objective is span corruption. Specifically, we use the fengshen framework in the pre-training phase which cost about 24 hours with 8 A100 GPUs.

使用 Usage

引用 Citation

如果您在您的工作中使用了我们的模型,可以引用我们的论文:

If you are using the resource for your work, please cite the our paper:

也可以引用我们的网站:

You can also cite our website:

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

Back to top