CN116796272B 一种基于Transformer的多变量时间序列异常检测方法 （复旦大学）.docxVIP

(19)国家知识产权局

(12)发明专利

(10)授权公告号CN116796272B(45)授权公告日2025.07.04

(21)申请号202310747003.0

(22)申请日2023.06.21

(65)同一申请的已公布的文献号申请公布号CN116796272A

(43)申请公布日2023.09.22

(73)专利权人复旦大学

地址200433上海市杨浦区邯郸路220号

(72)发明人赵进谢梦玮

(74)专利代理机构上海科盛知识产权代理有限公司31225

专利代理师廖程

GO6F17/14(2006.01)

GO6F17/16(2006.01)

GO6N3/0464(2023.01)

GO6N3/045(2023.01)

GO6N3/0475(2023.01)

GO6N3/094(2023.01)

G06F123/02(2023.01)

(56)对比文件

WO2021189904A1,2021.09.30

CN114065862A,2022.02.18审查员申冰冰

(51)Int.CI.

GO6F18/2433(2023.01)

GO6F18/25(2023.01)

GO6F18/214(2023.01)权利要求书3页说明书10页附图2页

(54)发明名称

一种基于Transformer的多变量时间序列异常检测方法

(57)摘要

CN116796272B本发明涉及一种基于Transformer的多变量时间序列异常检测方法，包括：针对多变量时间序列数据集，在特征维度对时间序列数据进行归一化处理；对归一化后的时间序列数据应用滑动窗口，将原始时间序列数据分割成一系列滑动窗口，得到多个滑动窗口时序数据；通过时间戳编码和数据编码，对滑动窗口时序数据进行编码；采用基于Transformer模型的异常检测方式，求解所有滑动窗口对应的时间序列的重构取值；根据重构误差和历史误差因素，确定出各个时间序列对应的动态异常阈值；根据对应的动态异常阈值，求解各个时间序列的异常分数，得到时序数据的异常检测结果。与现有技术相比，本发明能够准确且具有鲁棒性地针对多变量时间序列进行异常检

CN116796272B

S1

S1、针对多变量时间序列数据集，在特征维度对时间序列数据进行归一化处理

S2、对归一化后的时间序列数据应用滑动窗口，将原始时间序列数据分割成一系列滑动窗口，得到多个滑动窗口时序数据

S3、通过时间戳编码和数据编码，对滑动窗口时序数据进行编码

S4、采用基于Transformer模型的异常检测方式，求解所有滑动窗口对应的时间序列的重构取值

S5、根据重构误差和历史误差因素，确定出各个时间序列对应的动态异常阈值

S6、根据对应的动态异常阈值，求解各个时间序列的异常分数，得到时序数据的异常检测结果

CN116796272B权利要求书1/3页

2

1.一种基于Transformer的多变量时间序列异常检测方法，其特征在于，包括以下步

骤：

S1、针对多变量时间序列数据集，在特征维度对时间序列数据进行归一化处理；

S2、对归一化后的时间序列数据应用滑动窗口，将原始时间序列数据分割成一系列滑动窗口，得到多个滑动窗口时序数据；

S3、通过时间戳编码和数据编码，对滑动窗口时序数据进行编码；

S4、采用基于Transformer模型的异常检测方式，求解所有滑动窗口对应的时间序列的重构取值；

S5、根据重构误差和历史误差因素，确定出各个时间序列对应的动态异常阈值；

S6、根据对应的动态异常阈值，求解各个时间序列的异常分数，得到时序数据的异常检测结果；

步骤S4的具体过程为：

S41、将原始输入数据传输到编码器中，应用多维注意力机制，分别运行特征注意力模块和时序注意力模块，将原始时间序列输入X转换成隐变量Y;

S42、对T个不重叠的子序列重复步骤S41的操作，得到对应的T个隐