改进Tree-LSTM网络的情感分析方法

被引:2
|
作者
邹东尧 [1 ]
王斌 [1 ]
王丽萍 [1 ]
机构
[1] 郑州轻工业大学计算机与通信工程学院
关键词
情感分析; 深度学习; Tree-LSTM模型; 注意力机制; 对抗训练; 对抗样本; 依存句法;
D O I
10.16652/j.issn.1004-373x.2022.09.012
中图分类号
TP391.1 [文字信息处理];
学科分类号
081203 ; 0835 ;
摘要
在句子级情感分类任务中,针对深度学习模型易受噪声干扰而导致的分类效果差问题,提出一种结合对抗训练和注意力机制(Attetion)改进树形长短时记忆网络(Tree-LSTM)的模型。该模型为多层级结构,包括对抗样本的词嵌入层、Tree-LSTM层、注意力机制层。模型中词嵌入层即在词向量添加扰动形成对抗样本,将原始样本与对抗样本一起训练模型,对模型进行正则化处理,增强模型的泛化能力,Tree-LSTM层可以提取句子结构特征,注意力机制层对Tree-LSTM树的节点赋予不同的权重值以区分不同程度的情感词汇,从而改善模型的分类性能。实验结果显示在数据集SST、MR、COAE2014上,提出模型相比传统模型NBSVM、MNB、LSTM准确率明显提高,比未引入对抗样本的Att-TLSTM模型准确率提高,有更快的收敛速度和稳定性,证明该方法能有效提高情感分类任务中的分类性能。
引用
收藏
页码:66 / 71
页数:6
相关论文
共 5 条
  • [1] 结合自注意力机制和Tree-LSTM的情感分析模型
    石磊
    张鑫倩
    陶永才
    卫琳
    [J]. 小型微型计算机系统, 2019, 40 (07) : 1486 - 1490
  • [2] 文本情感分析综述
    刘爽
    赵景秀
    杨红亚
    徐冠华
    [J]. 软件导刊, 2018, 17 (06) : 1 - 4
  • [3] 基于对抗训练策略的语言模型数据增强技术
    张一珂
    张鹏远
    颜永红
    [J]. 自动化学报, 2018, 44 (05) : 891 - 900
  • [4] Combating Adversarial Misspellings with Robust Word Recognition..[J].Danish Pruthi;Bhuwan Dhingra;Zachary C. Lipton.CoRR.2019,
  • [5] Explaining and Harnessing Adversarial Examples..[J].Ian J. Goodfellow;Jonathon Shlens;Christian Szegedy.CoRR.2014,