FinBERT-RCNN-ATTACK：金融文本情感分析模型.pdfVIP

第34卷摇第5期计算机技术与发展Vol.34摇No.5

2024年5月摇摇摇摇摇摇摇摇摇摇COMPUTERTECHNOLOGYANDDEVELOPMENT摇摇摇摇摇摇摇摇摇摇May摇2024

FinBERT-RCNN-ATTACK:金融文本

情感分析模型

段魏诚,薛摇涛

(西安工程大学计算机科学学院,陕西西安710600)

摘摇要:金融文本包含投资者的情绪及公众对相关事件的态度。近年来,自然语言处理已广泛应用于金融领域,对金融文

本数据进行情感分析可以得到丰富的投资价值和监管参考价值。然而由于金融词汇具有专业性和特殊性,现有的通用情

感分析模型不适合金融领域情感分析任务,精确度有待提高,且现有模型易受到对抗样本的干扰导致模型结果出错。为

了解决这些问题,提出了一个FinBERT-RCNN-ATTACK模型。利用在金融语料库预训练的FinBERT模型进行词嵌入处

理,提取语义特征,将提取到的特征引入RCNN模型进一步挖掘上下文的关键特征,并且在模型中引入对抗训练,即在嵌

入阶段添加扰动,提高模型的鲁棒性和泛化性。实验结果表明,在金融领域数据集上,提出的模型优于其他情感分析模

型,精准度提升了3%~35%。

关键词:金融文本;情感分析;FinBERT;循环卷积神经网络;对抗训练

中图分类号:TP391摇摇摇摇摇摇摇文献标识码:A摇摇摇摇摇摇文章编号:1673-629X(2024)05-0157-06

doi:10.20165/j.cnki.ISSN1673-629X.2024.0054

FinBERT-RCNN-ATTACK:EmotionalAnalysisModelof

FinancialText

DUANWei-cheng,XUETao

(SchoolofComputerScience,Xi爷anPolytechnicUniversity,Xi爷an710600,China)

Abstract:Thefinancialtextcontainsinvestorsentimentandpublicattitudestowardstheevents.Inrecentyears,naturallanguage

processinghasbeenwidelyusedinfinancialfield,andtheemotionalanalysisoffinancialtextdatacangetrichinvestmentvalueandregu鄄

latoryreferencevalue.However,duetotheprofessionalismandparticularityoffinancialvocabulary,theexistinggeneralemotional

analysismodelisnotsuitablefortheemotionalanalysistaskinthefinancialfield,andtheaccuracyneedstobeimproved,andtheexisting

modelisvulnerabletotheinterferenceofantagonisticsamples,leadingtothewrongmodelresults.Inordertosolvetheseproblems,we

proposedaFinBERT-RCNN-ATTACKmodel.TheFinBERTmodelpre-trainedinthe