结合图自编码器与Transformer模块的多层虚假新闻检测系统研究.pdfVIP

结合图自编码器与TRANSFORMER模块的多层虚假新闻检测系统研究1

结合图自编码器与Transformer模块的多层虚假新闻检测

系统研究

1.研究背景与意义

1.1虚假新闻现状

虚假新闻在当今信息传播环境中已成为一个严重的社会问题。随着互联网和社交

媒体的迅猛发展，信息传播的速度和范围达到了前所未有的程度，而虚假新闻也借助这

些平台迅速扩散。根据皮尤研究中心的调查，超过64%的美国成年人认为虚假新闻对

美国造成了“很大”的危害。在2020年美国大选期间，社交媒体上流传的虚假新闻数量

比真实新闻多出数倍，且其传播速度更快，平均阅读量是真实新闻的两倍以上。虚假新

闻不仅误导公众舆论，还可能引发社会恐慌、破坏社会稳定，甚至影响民主选举的公正

性。例如，在印度的一些地区，虚假新闻曾引发群体暴力事件，造成人员伤亡。此外，

虚假新闻还可能对个人名誉、企业形象以及金融市场造成负面影响，给社会带来巨大的

经济损失。

1.2现有检测方法局限性

现有的虚假新闻检测方法主要分为基于内容分析的方法和基于传播模式分析的方

法。基于内容分析的方法主要通过分析新闻文本的语义、语法、风格等特征来判断其真

实性。然而，这些方法存在一些局限性。例如，传统的机器学习方法依赖于人工设计的

特征，如词袋模型、TF-IDF等，这些特征提取方法无法充分捕捉文本中的义语信息和

上下文关系，导致检测精度有限。近年来，深度学习方法在自然语言处理领域取得了显

著进展，如循环神经网络（RNN）及其变体长短期记忆网络（LSTM）和门控循环单元

（GRU）被应用于虚假新闻检测。虽然这些方法能够捕捉文本的序列信息，但在处理长

文本时容易出现梯度消失或梯度爆炸的问题，影响模型的性能。此外，这些方法主要关

注文本内容本身，而忽略了新闻的传播模式和社交网络中的用户行为等重要信息。

基于传播模式分析的方法则主要通过分析虚假新闻在社交媒体上的传播路径、传播

速度、用户互动等特征来识别虚假新闻。然而，这种方法也存在一些不足之处。首先，

虚假新闻的传播模式并非固定不变，不同的虚假新闻可能具有不同的传播特征，这使得

基于传播模式的检测方法难以泛化到新的虚假新闻类型。其次，这种方法依赖于大量的

传播数据，而在实际应用中，获取完整的传播数据往往存在困难。此外，用户的行为和

偏好也会影响新闻的传播模式，仅通过传播模式难以准确判断新闻的真实性。

此外，现有的检测方法大多只能单独分析新闻文本或传播模式，缺乏对两者综合考

虑的能力。在实际应用中，虚假新闻的检测需要综合考虑新闻内容、传播模式以及社交

2.图自编码器与TRANSFORMER模块基础2

网络中的用户行为等多方面的信息。因此，开发一种能够结合多种信息的虚假新闻检测

方法具有重要的现实意义。

2.图自编码器与Transformer模块基础

2.1图自编码器原理

图自编码器是一种基于图神经网络的无监督学习模型，主要用于对图结构数据进

行编码和解码，以实现对图的表示学习和重构。其核心思想是将图中的节点和边的信息

进行编码，生成一个低维的嵌入向量，然后通过解码器重构原始图结构。

•编码过程：图自编码器的编码器通常由图卷积网络（GCN）或图注意力网络（GAT）

等图神经网络构成。这些网络通过聚合节点的邻域信息，学习节点的嵌入表示。例

如，在GCN中，每个节点的嵌入表示是其自身特征和邻居节点特征的加权平均，

权重由节点之间的连接关系决定。通过这种方式，编码器能够捕捉图中的拓扑结

构信息和节点特征信息。

•解码过程：解码器的目标是根据节点的嵌入向量重构图的邻接矩阵。常用的解码

器有内积解码器和双线性解码器等。内积解码器通过计算两个节点嵌入向量的内

积来预测它们之间是否存在边。如果内积值大于某个阈值，则认为两个节点之间

存在边，否则不存在边。双线性解码器则在内积的基础上引入了一个可学习的权

重矩阵，进一步增强了模型的表达能力。

•损失函数：图自编码器的损失函数通常包括重构损失和正则化损失。重构损失用

于衡量重构图与原始图之间的差异，常用的重构损失函数