Transformer交叉集成特征实体关系抽取研究.docxVIP

Transformer交叉集成特征实体关系抽取研究

目录

Transformer交叉集成特征实体关系抽取研究（1）．．．．．．．．．．．．．．．3

内容概要．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．3

1.1研究背景与意义．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．3

1.2相关工作回顾．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．4

1.3研究目标与问题．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

Transformer模型概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．6

2.1Transformer模型结构．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．7

2.2Transformer模型特点．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．8

2.3Transformer模型在特征抽取中的应用．．．．．．．．．．．．．．．．．．．．．．9

实体识别技术．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．10

3.1命名实体识别．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．10

3.2关系抽取．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．12

3.3实体对齐．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

交叉集成方法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

4.1集成策略概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

4.2基于规则的集成方法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．14

4.3基于统计的方法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．15

4.4基于机器学习的方法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．16

特征实体关系抽取．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．17

5.1特征抽取过程．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．17

5.2实体识别与关系提取．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．18

5.3实体消歧与关系修正．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．19

Transformer交叉集成特征实体关系抽取研究．．．．．．．．．．．．．．．．19

6.1数据集选择与预处理．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．21

6.2实验设计与评估指标．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．21

6.3实验结果分析与讨论．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．22

6.4未来工作与展望．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．24

Transformer交叉集成特征实体关系抽取研究（2）．．．．．．．．．．．．．．25

内容概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．25

1.1研究背景和意义．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．25

1.2国内外研究现状．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．26

相关概念与理论基础．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．27

2.1句法分析与词性标注．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．28

2.2特征提取方法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．29

2.3跨领域知识图谱构建．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．29

Transformer模型介绍．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．30

3.1基于Transformer的序列到序列模型．．．．．．．．．．．．．．．．．．．．．．．31

3.2自注意力机制在跨语言任务中的