模型介绍
中文整理中文口语StructBERT问句识别任务
基于StructBERT的中文Base预训练模型介绍
StructBERT的中文Large预训练模型是使用wikipedia数据和masked language model任务训练的中文自然语言理解预训练模型 (预训练基座模型见 https://modelscope.cn/models/damo/nlp structbert spoken chinese-base/summary )。可以用于下游的nlu自然语言理解任务训练。
问句识别模型描述
StructBERT-spoken-base 预训练模型是使用structbert-base中文自然语言理解预训练模型在大量口语数据上使用MLM+口语化与训练目标继续进行预训练得到的。可以用于下游的nlu自然语言理解任务训练。 在预训练模型的基础上我们利用问句识别任务(判断句子是否为为问句)。
期望模型使用方式以及适用范围
本模型主要用于给在输入文档中发现问句。用户可以自行尝试各种输入文档。具体调用方式请参考代码示例。
如何使用
在安装完成ModelScope-library之后即可使用text-generation的能力
预测代码范例
模型局限性以及可能的偏差
模型在相关访谈数据集上训练,在会议等类似内容上性能较好,其他垂直领域效果可能会有所下降。
模型训练流程
用户可以基于这个StructBERT预训练底座模型进一步优化,训练代码如下,更详细代码请参考 alimeeting4mug
数据评估及结果
相关论文以及引用信息
如果我们的模型对您有帮助,请您引用我们的文章:
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
