模型介绍
中文整理中文新闻文本情感三分类模型
- 简介
本模型是基于huggingface上'hfl/chinese-roberta-wwm-ext'模型基础上微调的中文新闻文本情感的三分类(负面,中性,正面)模型。
之前有一个版本的微调模型'yangjiurong/chinese-sentiment-c3-v1'效果一般,后经过调整发布这个模型的V2版本,准确率和泛化有极大提升。
模型训练的初衷是想找一个可用的中文文本情感三分类模型,查看了一些模型后发现,目前在情感分类领域,英语文本分类模型的细分领域中有二分类的,三分类,五分类等一系列文本情感分类模型,类型比较多样完整,但是中文文本分类细分领域大多是二分类模型,只有极少数的五分类、七分类模型,三分类模型较少,因此决定训练并发布一个三分类的中文文本情感分类模型。
模型是初次训练和发布提交,难免会有不妥之处,还请大家不吝指正为谢!
- 模型性能
Train loss Train Accuracy Train F1 Eval loss Eval Accuracy Eval F1
- - -- -- -- -- --
- 0665 0.9791 0.9788 0.1657 0.9527 0.9520
- 使用数据集
本模型使用了modelscope数据集中的“中文新闻文本情感三分类数据集”,数据集id:'yangjiurong/chinese-news-sentiment-c3-ds'。
- 模型加载
在使用模型时请注意,需要先将模型文件下载到本地,可以通过modelscope库下载或通过git工具,亦或其他的方式下载到本地,然后使用transformers库来加载本地下载好的模型,注意本模型默认使用transformers库加载,如需使用modelscope加载的需要自行处理两个库之间转换,注意下方的from modelscope import BertTokenizer, BertForSequenceClassification,实则为from transformers import BertTokenizer, BertForSequenceClassification,README文件中会被自动修改为modelscope**
加载模型请使用如下加载方法
使用模型请使用如下方法
- 训练方法
采用transformers库完成训练,使用了其中的Trainer 和 TrainingArguments 。
- 1 数据预处理
首先,将上面提到的数据集通过datasets加载为dataset,并将其中的原始标签转换为数字{ "negative": 0 , "neutral": 1 , "positive": 2 }。
其次,加载模型分词器,将数据处理成transformer所需的格式。
- 2 定义训练参数
注意下面参数中的微调超参部分需要自己定义一个参数对象或修改为具体的参数值
,最好不要启用fp16,在训练过程中发现启用fp16后会导致梯度不能正常控制,会爆炸!
- 3 创建评估函数
- 4 创建训练器
- 5 训练模型
- 6 评估模型
- 使用方式
在使用模型时请注意,需要先将模型文件下载到本地,可以通过modelscope库下载或通过git工具,亦或其他的方式下载到本地,然后使用transformers库来加载本地下载好的模型,注意本模型默认使用transformers库加载,如需使用modelscope加载的需要自行处理两个库之间转换**
使用transformers的pipeline加载
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
