从图信息传播路径角度分析图神经网络表达能力的泛化极限.pdfVIP

从图信息传播路径角度分析图神经网络表达能力的泛化极限1

从图信息传播路径角度分析图神经网络表达能力的泛化极限

1.图神经网络基础

1.1定义与架构

图神经网络（GraphNeuralNetworks，GNNs）是一种用于处理图结构数据的深度

学习模型。它通过在图的节点、边和全局属性上进行信息传递和更新，学习节点的低维

表示，从而实现对图结构数据的建模和分析。GNNs的架构通常由多层神经网络组成，

每一层负责在图中传播和更新节点信息。以最经典的图卷积网络（GraphConvolutional

Networks，GCNs）为例，其架构基于谱图理论，通过图的邻接矩阵和节点特征矩阵的

矩阵运算来实现信息传播和节点特征更新。GCNs的每一层可以表示为

(l+1)˜−1˜˜−1(l)(l)

H=σ(D2AD2HW)

，其中

()

Hl

是第

l

层的节点特征矩阵，

˜

A

是图的邻接矩阵加上单位矩阵，

˜

D

是对应的度矩阵，

W(l)

是可学习的权重矩阵，

σ

是激活函数。这种架构使得GCNs能够有效地利用图的拓扑结构和节点特征信息，学

习节点的嵌入表示，从而应用于节点分类、图分类等任务。除了GCNs，还有其他多种

GNN架构，如图注意力网络（GraphAttentionNetworks，GATs），它通过引入注意力

机制，允许模型在传播过程中对不同邻居节点的重要性进行加权，从而更好地捕捉节点

间的复杂关系。GATs的每一层可以表示为

(l+1)∑(l)(l)



hi=σαijhjW

j∈Ni

1.图神经网络基础2

，其中

Ni

是节点

i

的邻居节点集合，

αij

是节点

i

和节点

j

之间的注意力权重，通过学习得到，能够动态地调整不同邻居节点对当前节点的影响程

度。这些不同的GNN架构在处理图数据时各有优势，能够适应不同的应用场景和任务

需求。

1.2信息传播机制

图神经网络的信息传播机制是其核心功能之一，决定了节点如何从邻居节点获取

信息并更新自身的特征表示。在GNNs中，信息传播通常遵循聚合（aggregation）和更

新（update）两个步骤。以两层的GCN为例，第一层的聚合操作可以表示为

∑