基于深度学习的电力运维工单命名实体识别.pdfVIP

ISSN1009-3044 E-mail：software@ ComputerKnowledgeandTechnology 电脑知识与技术 第18卷第31期(2022年11月） ComputerKnowledgeandTechnology电脑知识与技术 http：// Vol.18,No.31, November 2022 Tel：+86-55165690964 基于深度学习的电力运维工单命名实体识别 肖鹏，徐托，瞿少成 （华中师范大学物理科学与技术学院，湖北武汉430079) 摘要：国家电网公司PMS中积累了大量电力一次设备的运维工单文本数据，但难以有效利用。为此设计了一种基于 BERT-BiLSTM-CRF模型的电力一次设备运维工单中文实体识别系统。首先，分析了工单的文本特点及分词难点，总结 出七类实体并人工标注3452条工单，形成训练集。其次，利用相关设备的试验、故障分析报告对BERT模块进行预训 练，以获得电力词向量。然后，利用BiLSTM模块对实体标签进行预测。最后，引入CRF模块优化预测标签。对1000份 工单进行中文实体识别实验，结果表明该模型在电力一次设备运维工单文本中具有较高的识别能力。 关键词：电力一次设备运维工单;命名实体识别;BERT模型;双向长短期记忆网络;条件随机场 中图分类号：TP18 文献标识码：A 文章编号：1009-3044(2021)31-0007-04 开放科学（资源服务）标识码(OSID) ： 1概述 BiLSTM作为实体标签预测层、CRF作为标签全局最 优解的处理层，共同构建了电力一次设备运维工单实 自电力生产管理系统(PMS)在国家电网上线以 体识别模型；最终，完成了工单文本实体的高准确率 来，电力一次设备运维工单数据呈现爆炸式增长。这 [1] 识别实验。 些数据中蕴含着丰富的电力资产健康信息 ，但其主 要以非结构化文本方式存储，难以有效利用。因此， 2 电力一次设备运维工单分析 如何将非结构化运维工单结构化显得尤为重要。随 2.1电力一次设备运维工单数据来源 着自然语言处理中，命名实体识别技术发展为上述问 题提供了可能的解决方案。 电力一次设备运维工单文本数据来自国网湖北 早期命名实体识别技术主要是基于规则和字典， 公司PMS中30万条工单数据。本文仅考虑在110kv、 此后基于统计学的方法得到了极大发展，如隐马尔科 220kv与500kv三种电压等级下，主变压器、隔离开关 夫模型(HMM)、最大熵模型(MEM)、支持向量机(SVM) 与断路器这三种电力一次设备的运维数据。经数据 与条件随机场(CRF)等，但这些模型存在对语料库依 清洗后，共筛选出1.2万余条工单作为本文数据源。 [2] 赖大、训练时间复杂性高及收敛速度慢等问题 。当 2.2运维工单文本的特点及分词难点 前，基于深度学习的方法得到了空前发展，如循环神 分析上述工单文本内容，发现相较于一般的中文 经网络(RNN) 、长短期记忆网络(LSTM) 、双向长短期 文本，电力一次设