基于对抗训练和频域增强注意机制的时序异常检测方法研究.pdfVIP

基于对抗训练和频域增强注意力机制的时序异常检测方法研究

摘要

我国工业发展迅速，随之而来的是工业生产智能化的逐步普及。工业领域是时序数

据异常检测应用最为广泛的领域，在智能传感器的帮助下，工业生产设备的生产参数和

指标被全程监测，这有助于对传感器采集到的参数进行监控并分析，对工业设备的运行

状态进行异常预警，保证设备正常运行。

近年来，随着深度学习的快速发展，时序数据异常检测领域的解决方案也日益增多，

然而现有的方法大多使用循环神经网络或者卷积神经网络对时序数据特征进行建模，这

些模型受其结构限制，无法很好地提取长序列的时间关系，且模型的鲁棒性较差，容易

过拟合，在待检测数据分布与训练数据分布稍有不同的情况下很容易产生误判，且大多

数方法没有考虑到时序数据噪声对异常检测造成的影响，从而使异常和噪声难以区分，

异常检测成功率难以提升。除此之外，实际的工业生产环境比较复杂，且传感器数据传

输容易受到干扰，采集到的数据在一定程度上存在数据质量问题，经常含有缺失值，这

对后续的异常检测任务造成很大影响。

针对上述两个问题，提出了相应的解决方案。首先，针对工业场景下经常产生缺失

值的数据质量问题，在生成对抗网络的基础上针对时序数据对模型进行改进：通过引入

双向长短期记忆网络尽可能全面地提取时序数据特征。除此之外，对长短期记忆网络的

隐藏记忆单元应用注意力机制，改善模型的长序列建模能力，从而提高模型的性能。论

文在两个时序数据集上手动构建不同的异常比例数据用于对比实验，结果表明该模型的

缺失值插补效果具有一定优越性。

其次，为了解决时序异常检测模型易受噪声影响，鲁棒性较差的问题，以精简过后

的TransFormer模型架构为基础，结合了对抗训练和频域增强的注意力机制的优点，构

建出了改良的异常检测模型。在模型鲁棒性得到增强的同时，小波分解和傅里叶变换在

频域上的处理使得模型可以更好的对抗噪声对检测效果造成的影响。论文在四个异常检

测数据集上同多个最新的基线模型进行对比实验和消融实验，证明了模型的有效性。

关键词：异常检测；多维时序数据；对抗训练；离散小波分解

基于对抗训练和频域增强注意力机制的时序异常检测方法研究

Abstract

Ourcountrysindustrialdevelopmenthasbeenrapid,accompaniedbythegradual

popularizationofintelligentindustrialproduction.Theindustrialsectoristhemostwidely

appliedfieldfortimeseriesdataanomalydetection.Withtheassistanceofintelligentsensors,

productionparametersandindicatorsofindustrialproductionequipmentarecontinuously

monitored,whichhelpsmonitorandanalyzetheparameterscollectedbythesensors.Itenables

earlydetectionofanomaliesintheoperationalstatusofindustrialequipmentandensurestheir

normalfunctioning.

Inrecentyears,withtherapiddevelopmentofdeeplearning,thenumberofsolutionsin

thefieldoftimeseriesdataanomalydetectionhasincreased.However,existingme