基于自监督学习的图神经网络预训练研究综述.docVIP

基于自监督学习的图神经网络预训练研究综述

自监督学习与图神经网络的融合背景

随着互联网技术与算力的快速迭代，图结构数据已经成为承载复杂关联信息的核心载体，广泛分布于社交网络、生物信息学、推荐系统、交通预测等数十个领域。这类数据的核心特点是节点与边存在强依赖关系，传统机器学习方法难以捕捉其高阶拓扑特征，而图神经网络（GraphNeuralNetwork,GNN）凭借邻域信息聚合机制，实现了对图结构语义的高效建模，成为近年人工智能领域的研究热点。

但早期图神经网络的应用大多依赖全监督训练范式，需要大量人工标注的节点、边或图级标签才能获得良好的泛化能力，而在真实场景中，图数据的标注成本极高：例如生物领域的蛋白质相互作用网络，单条边的功能标注需要经过多轮湿实验验证，成本可达数万美元；社交网络的用户标签标注则涉及隐私合规问题，大规模标注几乎无法实现。这一矛盾直接限制了图神经网络在诸多垂直领域的落地，也催生了图预训练技术的研究需求。

自监督学习（Self-SupervisedLearning,SSL）作为无需人工标注的学习范式，通过设计前置任务从数据本身构造监督信号，在自然语言处理、计算机视觉领域已经取得了革命性成果：BERT系列模型通过掩码语言建模任务实现了文本语义的通用表征，CV领域的对比学习方法则通过图像增强构造正负样本，大幅降低了下游任务的标注依赖。将自监督学习与图神经网络结