融合多层次卷积神经网络的知识图谱嵌入模型.pdfVIP

1922025，61（6）ComputerEngineeringandApplications计算机工程与应用

融合多层次卷积神经网络的知识图谱嵌入模型

李敏，李学俊，廖竞+

西南科技大学计算机科学与技术学院，四川绵阳621010

+通信作者E-mail：liaojing@swust.edu.cn

摘要：知识图谱嵌入将实体和关系投影到连续的低维嵌入空间中来学习三元组特征。基于翻译类的模型无法提

取深层知识且特征表达能力有限，基于神经网络的模型虽然能提取出深层知识但容易丢失浅层知识，并且对于实体

和关系间的特征交互能力较弱。为了在基于神经网络的模型中充分提取三元组浅层与深层特征，提出一种融合多

层次卷积神经网络的知识图谱嵌入模型(ConvM)，该模型使用头实体与关系交叉排列的重组嵌入方式来加强实体关

系间的特征交互，并采用空洞卷积与一维、三维卷积核并列结合的特征提取模块来捕获实体关系间的多尺度交互特

征，除此之外引入残差连接以改善原始信息遗忘问题。在五个公开数据集上对ConvM模型进行链接预测实验，实验

结果表明，ConvM模型在FB15k、FB15k-237和Kinship数据集上的MRR指标相比ConvE模型分别提升了23.3%、

10.8%、12.2%，体现了ConvM模型优秀的特征表达能力，有效提升了链接预测性能。

关键词：知识图谱嵌入；残差学习；卷积神经网络；链接预测

文献标志码：A中图分类号：TP391doi：10.3778/j.issn.1002-8331.2310-0360

KnowledgeGraphEmbeddingModelIncorporatingMulti-LevelConvolutionalNeuralNetworks

LIMin,LIXuejun,LIAOJing+

SchoolofComputerScienceandTechnology,SouthwestUniversityofScienceandTechnology,Mianyang,Sichuan

621010,China

Abstract：Knowledgegraphembeddingprojectsentitiesandrelationsintoacontinuouslow-dimensionalembedding

spacetolearnthetriplefeatures.Themodelbasedontranslationcannotextractdeepknowledgeandhaslimitedfeature

expressionability.Althoughthemodelbasedonneuralnetworkcanextractdeepknowledge,itiseasytoloseshallow

knowledge,andhasweakfeatureinteractionabilitybetweenentitiesandrelations.Inordertofullyextracttheshallow

anddeepfeaturesoftripleinthemodelbasedonneuralnetwork,thispaperintroducesaknowledgegraphembedding

modelincorporatingmulti-levelconvolutionalneuralnetworkscalledConvM.ConvMmodelusestherecombination

embeddingmethodofcross-arrangementofheadentitiesandrelationstoenhancethefeatureinteractionbetweenthem.It

alsoadoptsthefeatureextractionmodulethatcombinesdilatedconvolutionwithone-dimensionaland