基于BERT的中文人物关系抽取方法研究.pdf

中原工学院硕士学位论文

摘要

随着数字化时代的到来，互联网已成为信息交流的主要平台，产生了大量的

非结构化文本数据。自然语言处理(NaturalLanguageProcessing，NLP)领域的一

项重要任务是从这些文本中有效抽取并结构化信息。该任务的主要目的是从文本

中提取出实体与关系，并生成相应的三元组，即实体1，关系，实体2。针对中文

人物关系抽取缺乏高质量数据集的问题，本文构建了中文人物关系数据集，针对中

文文本结构复杂提出了基于BERT的融合多层次信息混合混合神经网络模型MLI-

HNN，将不同层次的文本信息进行融合。在处理长文本时，由于文本中存在的

冗余信息，会让关系抽取的复杂性提高，本文针对长文本提出了基于指代消解的

长文本剪枝算法，保留文本的关键信息，去除冗余信息，达到有效的抽取效果。

本文的主要研究内容如下：

（1）数据集构建方面，本文从CN-DBpedia和百度百科中提取了人物关系对，

然后利用互联网爬虫技术搜集与之相关的自由文本数据。通过文本预处理和远程

监督思想，自动标注了文本中的关系实例，构建了一个包含22200条数据的数据

集，涵盖了14种人物关系类型，并按照7:2:1的比例划分为训练集、测试集和验

证集。

（2）本文针对中文文本的语法结构的多样性和语义的复杂性，提出了基于B

ERT的多层次信息融合神经网络关系抽取模型(MLI-HNN)，利用BERT预训练

模型进行编码，生成动态词嵌入向量。结合了双向门控循环单元(Bi-GatedRecu

rrentUnit，BiGRU)和卷积神经网络(Convolution-alNeuralNetworks，CNN)，以

及注意力机制，旨在捕获文本的全局上下文信息和局部特征。对句子层次的上下

文信息、局部信息和实体临近词关联性三个层次信息进行特征融合，进行关系预

测。本模型在关系抽取任务中F1分数为92.1%，优于对比算法的F1值。

（3）针对长文本中实体对距离较远，产生噪音影响抽取性能的问题，本文

提出了融合长文本剪枝算法的混合神经网络关系抽取模型(Prune-MLI-HNN)，Pr

une-MLI-HNN在MLI-HNN的基础上引入长文本剪枝算法，通过指代消歧和依

存句法分析提取文本中的关键信息，减少冗余，优化模型的输入。该模型适用于

长文本中复杂人物关系抽取任务，能够有效提取文本的最短依存路径，提高关系

抽取的准确性和效率。实验结果表明，Prune-MLI-HNN模型在F1值上优于对比

模型为95.62%。

关键词：中文人物关系抽取；BERT；长文本剪枝算法；多层次信息融合

II

中原工学院硕士学位论文

Abstract

Withtheadventofthedigitalera,theInternethasbecomeamajorplatformfor

informationexchange,generatingalargeamountofunstructuredtextdata.An

importanttaskinthefieldofNaturalLanguageProcessing(NLP)istoeffectively

extractandstructureinformationfromthesetexts.Themainpurposeofthistaskisto

extractentitiesandrelationsfromthetextandgeneratethecorrespondingtriples,i.e.,

entity1,relation,entity2.Aimingattheproblemoflackofhigh-qualitydatasetfor

Chinesecharacterrelationshipextraction,thispaperconstructsaChinesecharacter

relationshipdataset,andforthec