基于深度共享前缀扰动提示的方面级情感分析.pdfVIP

第41卷第12期算机仿真2024年12月

文章编号：1006-9348(2024)12-0270-07

基于深度共享前缀扰动提示的方面级情感分析

*1,2,3,4

廖茂熙1,2.3,王擎宇1,2.3,柯婷娟1,2.3，曾桢

（1.贵州财经大学信息学院，贵州贵阳550025；

2.人工智能与数字金融实验室，贵州贵阳550025；

3.绿色金融与生态环保协同创新中心，贵州贵阳550025；

4.武汉大学大数据研究院，湖北武汉430072）

摘要：现有的基于预训练模型的方面级情感分析模型在下游任务上进行微调（Fine-tuning）时，存在需要更新并储存所有参

数的问题，提出一种基于深度共享前缀扰动提示的方面级情感分析方法。首先，利用伪标签创建提示模板，伪标签通过双向

长短期记忆模型（BiLSTM）进行训练；其次，将模板作为前缀与方面信息及输人句子进行拼接作为预训练模型的输人；然后，

在多层Transformer层对其输出的前缀提示添加并共享前缀扰动提示；最后，再由平均池化层聚合方面信息得到包含方面信

息的词向量，输入全连接层和Softmax分类层，得到情感分类结果。上述模型分别在公开的SemEval2014Task4的Laptop和

Restaurant数据集以及ACL-14Twitter评论数据集上进行实验，结果显示该模型准确率最高达到81.09%、89.50%和

79.96%，均优于其对比模型，证明了上述模型在方面级情感分析任务中的有效性。

关键词：情感分析；预训练模型；提示学习；自然语言处理；深度学习

中图分类号：TP391.9文献标识码：B

Aspect-BasedSentimentAnalysisBasedonDeepSharing

PrefixPerturbationPrompt

*1,2,3,4

LIAOao-i-,ANGQng-y-,ETing-juan-.,ZENGhena

(1.InformationInstitute,GuizhouUniversityofFinanceandEconomics,GuiyangGuizhou550025,China;

2.ArtificialIntelligenceandDigitalFinanceLab,GuiyangGuizhou550025,China;

3.GuizhouCollaborativeInnovationCenterofGreenFinanceandEcological

EnvironmentProtection,GuiyangGuizhou550025,China;

4.BigDataInstitute,WuHanUniversity,WuhanGuizhou430072,China)

ABSTRACT:Existingaspect-basedsentimentanalysismodelsbasedonpre-trainedmodelshav