基于深度学习的事件因果关系识别方法研究.pdfVIP

摘要

事件因果关系反映了事件相互之间的序列和因果逻辑，理解和掌握事件之间的

因果关系对于提高机器阅读理解能力、优化决策支持系统以及构建事件知识图谱等

具有重要作用。事件因果关系识别旨在识别事件之间是否具有因果关系，已成为自

然语言处理领域的新兴研究任务。早期的研究主要采用基于规则与模式匹配和基于

统计与机器学习的方法，近年来随着深度学习和预训练语言模型的快速发展和广泛

应用，基于深度学习的事件因果关系识别方法逐渐成为主流，并在多个公开数据集

上取得了较好的效果。然而，现有研究仍面临着因果关系数据稀缺、隐式因果关系

识别难、事件表示各向异性、事件语义关系传递不充分等问题。

基于此，为解决现有方法中存在的事件表示各向异性问题，促使事件语义关系

传递更加充分，本文探索了基于对比学习的事件因果关系识别方法；为了提高隐式

因果关系识别性能，消除微调和预训练目标存在的差距，本文探索了基于提示学习

的事件因果关系识别方法。论文的主要工作包括：

第一，提出了一种基于负样本扩充对比学习的事件因果关系识别方法。首先基

于现有数据集进行事件扩充，构建事件样本库，为待识别事件对构建最优正样本与

多个负样本；其次使用预训练语言模型对事件对及正负样本进行编码，用正负样本

增强事件表示之间的差异；最后设计对比损失函数联合交叉熵损失函数进行因果关

系识别。在公开数据集上的实验结果表明，引入对比学习的思想可以有效提升事件

因果关系识别性能，缓解模型在事件表示上的各向异性问题。

第二，提出了一种基于多模板提示调优和知识增强的事件因果关系识别方法。

首先为事件因果关系识别任务设计独特的总提示模板，为显式和隐式事件因果关系

分别设计不同的种子提示模板，形成适用于事件因果关系识别的提示调优方法；其

次，为了提高模型识别隐式因果关系的线索，本文从多个外部知识库中获取事件的

关系性知识和解释性知识；最后使用外部知识和多模板提示通过联合学习方法进行

事件因果关系识别。在两个公开数据集上的实验结果表明，本文方法优于现有基线

模型。

关键词：事件因果关系识别；深度学习；预训练语言模型；对比学习；知识

增强；提示学习

I

II

ABSTRACT

Thecausalrelationshipofeventsreflectsthesequenceandcausallogicbetweenevents.

Understandingandmasteringthecausalrelationshipbetweeneventsplaysanimportantrole

inimprovingmachinereadingcomprehension,optimizingdecisionsupportsystems,and

constructingeventknowledgegraphs.Eventcausalrelationshiprecognitionaimstoidentify

whetherthereisacausalrelationshipbetweenevents,andhasbecomeanemergingresearch

taskinthefieldofnaturallanguageprocessing.Earlyresearchmainlyusedmethodsbased

onruleandpatternmatchingandstatisticalandmachinelearning.Inrecentyears,withthe

rapiddevelopmentandwidespreadapplicationofdeeplearningandpretrainedlanguage

models,eventcausalrelationshiprecognitionmethodsbasedonde