空军工程大学学报

作者：闫云飞，孙鹏，张杰勇，马钰棠，赵亮

单位：空军工程大学信息与导航学院，西安，710077\

关键词：服务分类;文本分类;BERT模型;双向长短时记忆网络（BiLSTM）;焦点损失函数

针对BERT模型领域适应能力较差，无法解决训练数据类别数量不均衡和分类难易不均衡等问题，提出一种基于WBBI模型的服务文本分类方法。首先通过TF\|IDF算法提取领域语料中的词汇扩展BERT词表，提升了BERT模型的领域适应性；其次，通过建立的BERT\|BiLSTM模型实现服务文本分类；最后，针对数据集的类别数量不均衡和分类难易不均衡问题，在传统焦点损失函数的基础上提出了一种可以根据样本不均衡性特点动态调整的变焦损失函数。为了验证WBBI模型的性能，在互联网获取的真实数据集上进行了大量对比试验，实验结果表明:WBBI模型与通用文本分类模型TextCNN、BiLSTM\|attention、RCNN、Transformer相比Macro\|F1值分别提高了4.29%、6.59%、5.3%和43%；与基于BERT的文本分类模型BERT\|CNN、BERT\|DPCNN相比，WBBI模型具有更快的收敛速度和更好的分类效果。

来源：2023年第1期

《空军工程大学学报》期刊编辑部

查看空军工程大学学报杂志2023年第1期