面向合同信息抽取的动态多任务学习方法.pdfVIP

软件学报

ISSN

1000-9825,

CODEN

RUXUEWE-mail:

jos@

JournalofSoftware,2024,35(7):3377−3391

[doi:

10.13328/ki.jos.006931]

©中国科学院软件研究所版权所有.Tel:

+86-10

*

面向合同信息抽取的动态多任务学习方法

1彧12

王浩畅,

郑冠,

赵铁军

1(东北石油大学

计算机与信息技术学院,

黑龙江

大庆

163318)

2(哈尔滨工业大学

计算机科学与技术学院,

黑龙江

哈尔滨

150001)

通信作者:

王浩畅,

E-mail:

kinghaosing@

摘要:

对于合同文本中要素和条款两类信息的准确提取,

可以有效提升合同的审查效率,

为贸易各方提供便利化

服务.

然而当前的合同信息抽取方法一般训练单任务模型对要素和条款分别进行抽取,

并没有深挖合同文本的特

征,

忽略了不同任务间的关联性.

因此,

采用深度神经网络结构对要素抽取和条款抽取两个任务间的相关性进行研

究,

并提出多任务学习方法.

所提方法首先将上述两种任务进行融合,

构建一种应用于合同信息抽取的基本多任务

学习模型;

然后对其进行优化,

利用Attention机制进一步挖掘其相关性,

形成基于Attention机制的动态多任务学

习模型;

最后针对篇章级合同文本中复杂的语义环境,

在前两者的基础上提出一种融合词汇知识的动态多任务学

习模型.

实验结果表明,

所提方法可以充分捕捉任务间的共享特征,

不仅取得了比单任务模型更好的信息抽取结果,

而且能够有效解决合同文本中要素与条款间实体嵌套的问题,

实现合同要素与条款的信息联合抽取.

此外,

为了验

证该方法的鲁棒性,

在多个领域的公开数据集上进行实验,

结果表明该方法的效果均优于基线方法.

关键词:

多任务学习;

合同文本;

信息联合抽取;

注意力机制;

实体嵌套

中图法分类号:

TP18

彧

中文引用格式:

王浩畅,

郑冠,

赵铁军.

面向合同信息抽取的动态多任务学习方法.

软件学报,

2024,

35(7):

3377–3391.

http://

/1000-9825/6931.htm

英文引用格式:

Wang

HC,

Zheng

GY,

Zhao

TJ.

Dynamic

Multitask

Learning

Approach

for

Contract

Information

Extraction.

Ruan

Jian

Xue

Bao/Journal

of

Software,

2024,

35(7):

3377–3391

(in

Chinese).

/1000-9825/6931.htm

DynamicMultitaskLearningApproachforContractInformationExtraction

WANG

Hao-Chang,

ZHENG

Guan-Yu,

ZHAO

Tie-Jun112

1(School

of

Computer

and

Information

Technology,

Northeast

Petroleum

University,

Daqing

163318,

China)

2(School

of

Computer

Science

and

Technology,

Harbin

Institute

of

Technology,

Harbin

150001,

China)

Abstract:

Accurately

extracting

two

types

of

information

including

elements

and

clause