融合注意力机制的电力集控安全隐患实体识别模型研究.pdfVIP

第44卷第10期自动化仪表Vol.44No.10

2023年10月PROCESSAUTOMATIONINSTRUMENTATIONOct.2023

融合注意力机制的电力集控安全隐患实体识别模型研究

张滈辰,屈红军,牛雪莹,耿琴兰

(青海省电力公司科研综合楼,青海西宁810000)

摘要:针对电力集控安全隐患文本实体边界模糊、常用实体识别模型识别准确率低的问题,提出了一种融合注意力机制与基于

Transformer的双向编码器表示(BERT)-双向长短时记忆(BiLSTM)-条件随机场(CRF)的电力集控安全隐患数据实体识别模型。首

先,利用BERT层将安全隐患文本编码表示为融合上下文语义的字位置和句位置的向量表示组,以减少实体识别误差积累。然后,提

出了BiLSTM网络层挖掘电力集控隐患文本的语义特征并进行标签概率预测,在此基础上加入注意力机制增加重要信息的权重,提高

重要信息对安全隐患语义信息的影响程度。最后,利用CRF层为标注结果进行综合打分,得到全局最优标签序列。在不同的电力安