基于Transformer-BiLSTM-CRF的桥梁检测领域命名实体识别.pdfVIP

第35卷第4期中文信息学报Vol.35,No.4

2021年4月JOURNALOFCHINESEINFORMATIONPROCESSINGApr.，2021

文章编号：1003-0077(2021)04-0083-09

基于Transformer-BiLSTM-CRF的桥梁检测领域命名实体识别

李韧，李童，杨建喜，莫天金，蒋仕新，李东

(重庆交通大学信息科学与丁程学院，重庆400074)

摘要：作为我国桥梁工程领域最重要的数据源之一，桥梁检测文本蕴含了丰富的结构构件参数及检测病害描述

等关键业务信息，但面向该领域的文本信息抽取研究尚未有效开展。该文在阐明其领域命名实体识别目标任务的

基础上，分析了待识别实体在蕴含大量专业术语的同时，存在地名或路线名嵌套、字符多义、上下文位置相关和方

向敏感等领域特性。鉴于此，该文提出一种基于Transformer-BiLSTM-CRF的桥梁检测领域命名实体识别方法。

首先，利用Transformer编码器对检测文本字符序列的上下文长距离位置依赖特征进行建模，并采用BiLSTM网

络进一步捕获方向敏感性特征，最终在CRF模型中实现标注序列预测。实验结果表明，相较于当前主流的命名实

体识别模型，该文提出的方法具有更好的综合识别效果。

关键词：命名实体识别；桥梁检测；Transformer

中图分类号：TP391文献标识码：A

BridgeInspectionNamedEntityRecognitionBasedonTransformer-BiLSTM-CRF

LIRen，LITong，YANGJianxi，M()Tianjin，JIANGShixin，LIDong

(CollegeofInformationScienceandEngineering.ChongqingJiaotongUniversity,Chongqing400074»China)

Abstract：TheinformationextractionforbridgeinspectionreportsisaleSvSaddressedissue»whichcontainalargea-

mountofkeybusinessinformationsuchasstructuralcomponentparametersandinspectiondescription.Clarifying

thetaskofnamedentityrecognitioninthisfieldsthispaperalsorevealsthecharacteristicsoftheentitiestobeiden­

tified»suchaslocationnameorroutenamenesting,characterambiguity»contextlocationcorrelationanddirection

sensitivity.AbridgeinspectionnamedentityrecognitionapproachisthenproposedbasedonTransformer-BiLSTM-

CRF.