chinese-news-title-sentiment-c3-v2

中文新闻文本情感三分类模型

• 简介

本模型是基于huggingface上'hfl/chinese-roberta-wwm-ext'模型基础上微调的中文新闻文本情感的三分类（负面，中性，正面）模型。

之前有一个版本的微调模型'yangjiurong/chinese-sentiment-c3-v1'效果一般，后经过调整发布这个模型的V2版本，准确率和泛化有极大提升。

模型训练的初衷是想找一个可用的中文文本情感三分类模型，查看了一些模型后发现，目前在情感分类领域，英语文本分类模型的细分领域中有二分类的，三分类，五分类等一系列文本情感分类模型，类型比较多样完整，但是中文文本分类细分领域大多是二分类模型，只有极少数的五分类、七分类模型，三分类模型较少，因此决定训练并发布一个三分类的中文文本情感分类模型。

模型是初次训练和发布提交，难免会有不妥之处，还请大家不吝指正为谢！

• 模型性能

Train loss Train Accuracy Train F1 Eval loss Eval Accuracy Eval F1

• - -- -- -- -- --
• 0665 0.9791 0.9788 0.1657 0.9527 0.9520

• 使用数据集

本模型使用了modelscope数据集中的“中文新闻文本情感三分类数据集”，数据集id：'yangjiurong/chinese-news-sentiment-c3-ds'。

• 模型加载

在使用模型时请注意，需要先将模型文件下载到本地，可以通过modelscope库下载或通过git工具，亦或其他的方式下载到本地，然后使用transformers库来加载本地下载好的模型，注意本模型默认使用transformers库加载，如需使用modelscope加载的需要自行处理两个库之间转换，注意下方的from modelscope import BertTokenizer, BertForSequenceClassification，实则为from transformers import BertTokenizer, BertForSequenceClassification，README文件中会被自动修改为modelscope**

加载模型请使用如下加载方法

使用模型请使用如下方法

• 训练方法

采用transformers库完成训练，使用了其中的Trainer 和 TrainingArguments 。

• 1 数据预处理

首先，将上面提到的数据集通过datasets加载为dataset，并将其中的原始标签转换为数字{ "negative": 0 , "neutral": 1 , "positive": 2 }。

其次，加载模型分词器，将数据处理成transformer所需的格式。

• 2 定义训练参数

注意下面参数中的微调超参部分需要自己定义一个参数对象或修改为具体的参数值

，最好不要启用fp16，在训练过程中发现启用fp16后会导致梯度不能正常控制，会爆炸！

• 3 创建评估函数

• 4 创建训练器

• 5 训练模型

• 6 评估模型

• 使用方式

在使用模型时请注意，需要先将模型文件下载到本地，可以通过modelscope库下载或通过git工具，亦或其他的方式下载到本地，然后使用transformers库来加载本地下载好的模型，注意本模型默认使用transformers库加载，如需使用modelscope加载的需要自行处理两个库之间转换**

使用transformers的pipeline加载