闲社服务运行正常AI智能体自动化平台
中文
语言 / Language简体中文SelectedEnglish

选择显示语言

Erlangshen-Longformer-110M

Fengshenbang/Erlangshen-Longformer-110M

发布机构Fengshenbang

下载访问条件魔搭来源

Erlangshen-Longformer-110M Github: Fengshenbang-LM Docs: Fengshenbang-Docs

图片生成
模型详情

模型介绍

中文整理

Erlangshen-Longformer-110M

Github: Fengshenbang-LM

Docs: Fengshenbang-Docs

简介 Brief Introduction

善于处理长文本,采用旋转位置编码的中文版1.1亿参数的Longformer-base

The Chinese Longformer-base (110M), which uses rotating positional encoding, is adept at handling lengthy text.

模型分类 Model Taxonomy

需求 Demand 任务 Task 系列 Series 模型 Model 参数 Parameter 额外 Extra

:----: :----: :----: :----: :----: :----:

通用 General 自然语言理解 NLU 二郎神 Erlangshen Longformeer 110M 中文 Chinese

模型信息 Model Information

遵循Longformer-base的设计,我们基于chinese roformer L-12 H-768 A-12,在悟道语料库(180 GB版本)上进行了继续预训练。特别的,我们采用旋转位置嵌入(RoPE)来避免预训练语料库的不均匀序列长度问题。

Following the design of Longformer-base, we performed continual pre-training on the WuDao corpus (180 GB) based on chinese roformer L-12 H-768 A-12. Particularly, we employed rotational position embedding (RoPE) to avoid the uneven sequence length of the pre-trained corpus.

使用 Usage

因为transformers库中是没有Longformer-base相关的模型结构的,所以你可以在我们的Fengshenbang-LM中找到并且运行代码。

Since there is no structure of Longformer-base in transformers library, you can find the structure of Longformer-base and run the codes in Fengshenbang-LM.

加载模型 Loading Models

引用 Citation

如果您在您的工作中使用了我们的模型,可以引用我们的论文:

If you are using the resource for your work, please cite the our paper:

也可以引用我们的网站:

You can also cite our website:

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部