局部与全局特征融合的方面情感分析网络模型.pdfVIP

计算机科学与探索1673-9418/2023/17(04)-0902-10

JournalofFrontiersofComputerScienceandTechnologydoi:10.3778/j.issn.1673-9418.2107069

局部与全局特征融合的方面情感分析网络模型

1,21+1,2

夏鸿斌，李强，刘渊

1.江南大学人工智能与计算机学院，江苏无锡214122

2.江苏省媒体设计与软件技术重点实验室，江苏无锡214122

+通信作者E-mail:1712127663@

摘要：方面情感分析旨在预测句子或文档中一个特定方面的情感极性。最近大部分的研究都是通过使用注

意力机制及外部语义知识对全局上下文进行建模，以完成这项工作。方面的情感极性往往取决于与方面高度

相关的局部上下文，但大多数模型将过多的注意力集中于全局上下文，这使得模型的参数量普遍比较大，导致

计算量也随之增大。为此，提出一种基于多头注意力机制的轻量化网络模型——局部与全局特征融合网络模

型。首先，使用双向门控循环单元来对上下文进行编码。其次，根据与方面项的语义相关距离掩蔽掉与方面

项相关度较小的上下文词，以此得到局部上下文表示。最后，通过多头Aspect-aware注意力网络对局部和全局

上下文分别进行提取，将两者提取的结果进行结合。此外，还将预先训练的BERT应用于这项任务，并获得了

F1

更好的结果。在三个数据集Twitter、Laptop、Restaurant上进行实验，采用Accuracy和指标进行评估。实验

结果表明，该模型在参数量较小的情况下，取得了比其他基于方面的情感分类算法更好的结果。

关键词：注意力机制；局部上下文注意；情感分析；文本分类

文献标志码：A中图分类号：TP391

LocalandGlobalFeatureFusionNetworkModelforAspect-BasedSentimentAnalysis

XIAHongbin1,2,LIQiang1+,LIUYuan1,2

1.SchoolofArtificialIntelligenceandComputerScience,JiangnanUniversity,Wuxi,Jiangsu214122,China

2.JiangsuKeyLaboratoryofMediaDesignandSoftwareTechnology,Wuxi,Jiangsu214122,China

Abstract:Aspect-basedsentimentanalysisaimstopredictthesentimentpolarityofaspecificaspectinasentence

ordocument.Mostoftherecentresearchistouseattentionmechanismandexternalsemanticknowledgetomodel

theglobalcontext.Thesentimentpolarityofanaspectoftendependsonthelocalcontextwhichishighlyrelatedto

theaspect,butmostmodelsfocustoomuchontheglobalcontext,whichmakestheparameteramountofthemodel

generallylarger,resultinginanincreaseintheamountofcalculation.Tothisend,thispaperproposesalightweight

networkmodelbasedonmulti-headattentionmechanism,whichisnam