基于四元数空间嵌入的知识表征与推理研究.pdfVIP

摘要

摘要

构建人与机器均可理解的结构化知识网络，是信息时代的重要研究方向之一。

知识图谱具备强大的语义处理能力与开放互联能力，将网络知识整体化、组织化

和关联化，使web3.0提出的“知识之网”远景成为了可能。但是知识图谱面临着

知识不完备、数据存在错误等困境，因此，需要知识图谱表示与推理技术补全知

识图谱。四元数代数属于超复数系统，可有效地表示数据的自然多维度特性，为

建模知识图谱的高维语义信息提供了理论基础，有益于知识表示学习与推理。

本课题聚焦于四元数空间，将其与知识图谱相结合，充分挖掘和利用四元数

的多维特性，来建模更丰富的空间语义信息，获取与以往模型不同层面的知识表

示；并且引入四元数神经网络，以联合嵌入实体和关系的方式设计了高效的链接

预测模型。本文的贡献如下：

（1）提出了四元数空间动态嵌入模型。首先详细分析了现有的四元数知识表

示模型的优势与局限性，保留四元数具有充分表达能力的运算哈密尔顿积，用以

构造动态映射函数，解决了现有模型忽略了关系复杂性和实体多面性的缺陷。此

动态表示方法能够根据实体周围结构信息，自适应调节实体表示在四元数空间中

的位置，以适应知识图谱的复杂性。最后，通过实验验证了融入多维特征的四元

数动态表示方法具备有效性。

（2）提出了四元数三维旋转模型。以四元数与三维旋转作为理论基础，建模

知识图谱在三维空间中的高维语义信息。具体来说，将实体视作为三维空间中的

点，而将关系设定为支撑三维旋转的旋转轴和旋转角，连接三元组中的头部与尾

部，高自由度的开放性表示赋予了模型一定的拓展能力。通过自监督学习框架学

习知识表示，并在多个数据集上验证了模型的有效性。

（3）提出了基于四元数神经网络的知识推理模型。此研究点选择哈密尔顿积

作为神经元的运算，提出了两种四元数神经网络：金字塔式的深度推理模型和联

合嵌入的浅层推理模型。通过多个数据集上的链接预测实验，证实了基于四元数

神经网络的推理模型具备一定的泛化性，在MR、Hit@10指标上表现较好。

关键词：四元数空间，知识图谱，表示学习，三维旋转，神经网络

I

ABSTRACT

ABSTRACT

Buildingastructuredknowledgenetworkthatcanbeunderstoodbybothhumansand

machinesisoneoftheimportantresearchdirectionsintheinformationage.Knowledge

graphhaspowerfulsemanticprocessingabilityandopeninterconnectionability,which

integrates,organizesandcorrelatesnetworkknowledge,makingthevisionof”Webof

Knowledge”proposedbyweb3.0possible.However,knowledgegraphsfacethedilemma

ofincompleteknowledgeanddataerrors.Therefore,weneedknowledgegraphrep-

resentationandreasoningtechnologiestocomplementknowledgegraphs.Quaternion

algebraisahypercomplexnumbersystem,whichcaneffectivelyrepresentthenatural

multi-dimensionalcharacteristicsofdata,providesatheoreticalbasisformodelinghigh-

dimensionalsemanticinformationofknowledgegraphs,andisbeneficialtoknowledge

represent