基于注意力机制财务欺诈预测研究.pdfVIP

FinanceAccounting财务与会计

基于注意力机制财务欺诈预测研究

李冉

（合肥工业大学管理学院，安徽合肥230009）

摘要：为了解决现有财务欺诈预测研究未考虑财务数据和（MDA）部分创建字典来区分欺诈和非欺诈公司，将文

文本数据之间的一致性对预测表现的影响，文章提出一种本数据作为财务数据的有效补充，其分析结果表明MDA

基于注意力机制融合的财务欺诈预测方法。该方法通过财文本补充了定量财务信息[3]。Wang等（2022）将财务指标

务数据自注意力机制模块FD-SA获取财务数据的深度表征，与年报报告分章节进行数据特征提取，然后进行差异化的

利用文本数据自注意力机制模块TD-SA得到具有丰富语义的融合，也证明了多源数据融合进行欺诈预测提高了模型

文本数据深度表征，随后通过协同注意力机制模块MSD-CA性能[4]。因此，随着数据和技术的不断发展，不断优化

过滤冗余信息并探索多源数据之间的一致性，实现多源数多模态模型的设计以提高预测性能和应用价值已经成为

据财务欺诈预测的准确分类。实验结果表明，模型的AUC达一种趋势。

到了85.90%，相较于基线模型LR、SVM、RF、XGB、MLp分别提对于构建有效的财务欺诈预测模型，现有的研究主

升了9.70%、9.37%、7.09%、6.25%，4.36%。同时，相比于表现要集中在以下两大类：浅层的机器学习方法和深度学习

最好的基线模型，文章所提模型的F1-score提高了4.23%。同方法。传统的机器学习模型因其预测能力强、处理复杂问

时，未来研究可引入媒体新闻、相关事件报道、音频、视频题能力较强等在财务欺诈预测研究中受到广泛关注，比

等数据类型进一步探索多源数据财务欺诈预测研究。如逻辑回归（Logistic Regression, LR）、支持向量机

关键词：财务欺诈；注意力机制；深度学习；多源数据融合（Support Vector Machine, SVM）、随机森林（Random

Forest, RF）和极限梯度提升（Extreme Gradient

近年来，我国上市公司频繁爆出财务欺诈事件并被Boosting, XGB）等。因此，杨子晖等（2022）指出采用

官方机构处罚，事件的爆出直接损害了投资者对企业的信传统的机器学习模型（如RF和LR等），能够对我国大多

心，也削弱了社会公众对资本市场的信任度，进而导致信数财务危机事件进行有效预警[5]。郦金梁等（2020）利用

任危机的发生。鉴于财务欺诈事件频发给社会带来的危XGB算法对其所构建的递延所得税异动指标进行上市公司

害，如何设计出更精确的模型来预测上市公司的财务欺诈欺诈预警[6]。然而，这些传统机器学习模型都是建立在人

行为，以促进资本市场的稳定发展并重塑投资者的信心，工构造的浅层特征上进行训练的，不能充分揭示多源数

逐渐成为一个非常有意义的研究课题。据中潜在的财务和文本特征。因此，近年来深度学习方

以往的研究表明，财务指标已广泛应用于财务欺诈法因其能够自动从原始的财务数据和文本数据中提取深

研究中。财务指标是指从上市公司年度报告中三大报表获层次的表征而备受关注，比如长短期记忆（Long Short-

得的定量财务比率，可以直观反映公司偿付能力、信用状Term Memory, LSTM）和卷积神经网络（Convolutional

况和运营状况等。例如：Persons（1995）获取财务杠杆Neural Networks, CNN），以及注意力机