图神经网络和数值诱导正则化的数值推理方法.pdfVIP

第19卷第5期智能系统学报Vol.19No.5

2024年9月CAAITransactionsonIntelligentSystemsSep.2024

DOI:10.11992/tis.202308045

网络出版地址:/urlid/23.1538.TP0935.012

图神经网络和数值诱导正则化的数值推理方法

11,2123

白宇康，陈彦敏，樊小超，孙睿军，李炜杰

（1.新疆师范大学计算机科学技术学院,新疆乌鲁木齐830054;2.中国科学技术大学计算机科学与技术学院,

安徽合肥230026;3.新疆大学软件学院,新疆乌鲁木齐830046）

摘要：数值推理是机器阅读理解的一项关键能力，而数值推理任务中的数据类型多样，数值之间潜在的运算

关系对数值推理任务有着更高的要求。为了进一步提升数值推理能力，一方面继承图神经网络方法并探索新

的图结构，采用异构图神经网络结构进行数值推理，另一方面在预训练语言模型中引入数值诱导正则化方法，

增强模型的数值理解能力。在DROP数据集上实验的结果表明，2种方法得到76.5%的精准匹配率，与基线模

型对比以及对方法的消融实验表明，上述2种方法能够提升机器的数值推理能力。

关键词：数值推理；机器阅读理解；图神经网络；异构图；数值诱导正则化；命名实体识别；预训练模型；抽取式

中图分类号：TP18文献标志码：A文章编号：1673−4785(2024)05−1268−09

中文引用格式：白宇康,陈彦敏,樊小超,等.图神经网络和数值诱导正则化的数值推理方法[J].智能系统学报,2024,19(5):

1268–1276.

英文引用格式：BAIYukang,CHENYanmin,FANXiaochao,etal.Numericalreasoningmethodforgraphneuralnetworksand

numericallyinducedregularization[J].CAAItransactionsonintelligentsystems,2024,19(5):1268–1276.

Numericalreasoningmethodforgraphneuralnetworks

andnumericallyinducedregularization

11,2123

BAIYukang，CHENYanmin，FANXiaochao，SUNRuijun，LIWeijie

(1.CollegeofComputerScienceandTechnology,XinjiangNormalUniversity,Urumqi830054,China;2.CollegeofComputerSci-

enceandTechnology,UniversityofScienceandTechnologyofChina,Hefei230026,China;3.SchoolofSoftware,XinjiangUni-

versity,Urumqi830046,China)

Abstract:Numericalreasoningisacrucialcapabilityinmachine