基于特征捕获的自监督实体对齐方法研究.pdfVIP

哈尔滨工程大学专业学位硕士学位论文

摘要

随着信息量的快速增长，实体对齐成为信息集成和知识图谱构建中的重要挑战。

然而，目前实体对齐方法通常依赖于外部监督信号，这限制了在大规模数据上的应用。

本研究旨在探索基于特征捕获的自监督实体对齐方法，无需外部监督信号的同时，有

效地解决实体对齐任务中的挑战，通过利用数据本身特征和结构、自监督学习和迭代

优化等机制，提高对齐模型的适用范围和可扩展性，本文主要研究工作概括如下：

针对大规模知识图谱缺少监督标签导致无法实体对齐问题，本文提出基于特征捕

获的自监督实体对齐SEAF模型（Self-supervisedEntityAlignmentmethodbasedon

Featurecapture），在模型中首先使用DeBERTa预训练语言模型，获取模型的隐藏状态

的输出作为实体丰富语义信息的表示，使得模型在后续对齐任务中能够更准确地理解

实体之间的语义关系。其次，使用GIN模型结合注意力机制表示实体之间的结构特征，

将邻居节点的信息聚合到中心实体上，并通过注意力机制分配权重，有效学习图结构

表示，有助于模型更好地理解实体之间的复杂关系。将上下文语义特征和邻居嵌入表

示后相似性矩阵进行归一化处理，将其进行相对相似性度量计算实体之间的相似性，

作为实体自监督实体对齐初期的相似性矩阵完成实体对齐任务。

进一步，针对简单叠加结构信息导致实体特征捕获不完全问题，在SEAF模型的基

础上，深层次挖掘实体结构特征，计算FGW距离（FusedGromov-Wasserstein）用于图

谱间的结构特征表示，将计算FGW距离后的相似性矩阵与初期的相似性矩阵归一化处

理后得到最终的相似性矩阵。此外，由于相对相似性度量需要将负样本推远来达到正

样本拉近的效果，但每一个实体的负样本数量是不同的，因此本文使用自负采样技术

有效地增加训练样本，以增加对模型的有效训练，提高模型的鲁棒性和泛化能力。

将计算FGW距离及自负采样技术后的模型作为SEAF模型的优化，本文在

DBP15K和DWY100K公开数据集上进行实验，在DBP15KZH-EN、DBP15KJA-EN、

DBP15KFR-EN、DWY100KDBP-WD和DWY100KDBP-YG五个子数据集上的Hits@1值分别取

得了78.5、83.2、96.6、99.1和99.8的准确率，较基线模型有较大提升。实验结果表明，

本文提出的基于特征捕获的自监督实体对齐SEAF模型有效解决了缺少监督标签导致无

法实体对齐以及实体特征捕获不完全问题，证实了所提方法的有效性和实用性。

关键词：实体对齐；特征捕获；注意力机制；预训练模型；相对相似性度量

基于特征捕获的自监督实体对齐方法研究

Abstract

Withtherapidgrowthofinformationvolume,entityalignmenthasbecomeanimportant

challengeininformationintegrationandknowledgegraphconstruction.However,current

entityalignmentmethodsoftenrelyonexternallysupervisedsignals,whichlimitstheir

applicationonlarge-scaledata.Thepurposeofthisstudyistoexploreaself-supervisedentity

alignmentmethodbasedonfeaturecapture,andeffectivelysolvethechallengesinentity

alignmenttaskswithoutexternalsupervisionsignals.Byusingthefeaturesandstructureofth