面向逻辑推理阅读理解任务的自动答题方法研究.pdf

中文摘要

逻辑推理阅读理解任务旨在通过学习给出的阅读材料和问题，理解材料的深层

含义，并利用逻辑推理方法获得最符合问题题意的答案，其已成为机器阅读理解的

研究热点，在智慧医疗、智慧司法、智慧教育等领域发挥着重要作用。相比于传统

机器阅读理解，逻辑推理阅读理解任务的答案往往不直接包含在阅读材料中，需要

机器通过逻辑推理挖掘材料和问题的深层逻辑关系，并生成答案。现有逻辑推理阅

读理解方法主要基于图神经网络和预训练模型等技术。基于图神经网络的方法通过

预定义的规则或提取工具构建图，并对图中的逻辑关系和语义片段进行建模，从而

增强模型的推理能力；基于预训练模型的方法通过大规模的训练数据增强模型的推

理能力。但这两类方法难以有效捕获阅读材料中的深层逻辑关系，仍然存在以下问

1

题：（）现有的逻辑推理方法所使用的逻辑关系种类不全，且对不同逻辑关系的识

2

别能力较差。（）基于图神经网络的方法由于预定义的规则和提取工具精度的限制，

不能完整地提取出文本中存在的深层逻辑关系。

基于此，为了增加模型可以使用的逻辑关系种类并更有效地提升模型对不同逻

辑关系的识别能力，探索了基于对比学习的逻辑推理答题方法；同时，针对现有方

法不能完整地提取出文本中存在的深层逻辑关系以及训练数据不足的问题，探索了

基于命题逻辑与数据增强的逻辑推理答题方法。论文主要工作包括：

第一，提出了基于对比学习的逻辑推理阅读理解答题方法。首先将训练数据通

过自定义的数据增强方法构造出与文本含义接近的正样例和含义相反的负样例，然

后以预训练语言模型对原样例、正样例、负样例、问题和选项进行编码获取其语义

向量表示，最后使用对比学习框架来训练模型，进一步提升模型的推理能力。该方

法在逻辑推理任务的两个英文数据集上得到了有效验证。

第二，提出了基于命题逻辑与数据增强的逻辑推理答题方法。首先通过并列关

系替换、推理词和推理词组替换的数据增强策略构造了新的训练数据，其次通过预

训练模型得到文本、问题和选项的向量表示，基于此构建初始的文本图，然后结合

神经推理和符号推理的方法，更新图的表示，最后通过文本、问题、选项和图的表

I

示共同预测答案。在逻辑推理阅读理解两个数据集上的实验结果表明，该方法比已

有方法取得了更好的效果。

关键词：逻辑推理；阅读理解；图神经网络；对比学习；数据增强

II

ABSTRACT

Thelogicalreasoningreadingcomprehensiontaskaimstounderstandthedeep

meaningofthematerialsbylearningthereadingmaterialsandquestionsgiven,anduse

logicalreasoningmethodstoobtaintheanswersthatbestmeetthemeaningofthe

questions.Comparedwithtraditionalmachinereadingcomprehension,theanswersof

logicalreasoningreadingcomprehensiontasksareoftennotdirectlyincludedinthe

readingmaterials,andthemachineneedstominethedeeplogicalrelationshipbetween

thematerialsandthequestionsthroughlogicalreasoningandgenerateanswers.The

existinglogicalreasoningreadingcomprehensionmethodsaremainlybasedon

technologiessuchasgraphneuralnetworksandpre-trainedmodels.Thegraphneural

network-basedapproachcons