All systems operationalAI Agent Automation Platform
English
Language简体中文EnglishSelected

Choose your language

nlp_medical_structbert_backbone_base

iic/nlp_medical_structbert_backbone_base

Publisheriic

Download access requirementsModelScope source

基于StructBERT的医疗领域中文Base预训练模型介绍 医疗领域StructBERT模型是基于中文StructBERT模型在医学数据上继续masked language model任务训练的医疗领域中文自然语言理解预训练模型。 模型结构与 StructBERT预训练模型-中文-base一致,详见论文StructBERT: Incorporating Language Structures into Pre-training for Deep Language Under

Text Processing
Model details

模型介绍

中文整理

基于StructBERT的医疗领域中文Base预训练模型介绍

医疗领域StructBERT模型是基于中文StructBERT模型在医学数据上继续masked language model任务训练的医疗领域中文自然语言理解预训练模型。

模型描述

模型结构与 StructBERT预训练模型-中文-base一致,详见论文StructBERT: Incorporating Language Structures into Pre-training for Deep Language Understanding.

本模型为Base规模(Layer-12 / Hidden-768 / Head-12),参数规模约为102M。

期望模型使用方式以及适用范围

本模型主要用于中文相关下游任务微调。用户可以基于自有训练数据进行微调。具体调用方式请参考代码示例。

如何使用

在安装完成ModelScope-lib之后即可基于nlp medical structbert backbone base进行下游任务finetune

代码范例

模型局限性以及可能的偏差

基于中文数据进行训练,模型训练数据有限,效果可能存在一定偏差。

数据评估及结果

暂无

相关论文以及引用信息

如果我们的模型对您有帮助,请您引用我们的文章:

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

Back to top