在线深度神经网络的弱监督概念漂移检测方法.pdfVIP

小型微型计算机系统２０２４年９月第９期

ＤＯＩ：１０．２０００９／ｊ．ｃｎｋｉ．２１１１０６／ＴＰ．２０２３０１８３

ＪｏｕｒｎａｌｏｆＣｈｉｎｅｓｅＣｏｍｐｕｔｅｒＳｙｓｔｅｍｓＶｏｌ．４５Ｎｏ．９２０２４

在线深度神经网络的弱监督概念漂移检测方法

１，２１１，２

马乾骏，郭虎升，王文剑

１（山西大学计算机与信息技术学院，太原０３０００６）

２（计算智能与中文信息处理教育部重点实验室（山西大学），太原０３０００６）

Ｅｍａｉｌ：ｇｕｏｈｕｓｈｅｎｇ＠ｓｘｕ．ｅｄｕ．ｃｏｍ

摘要：流数据作为大数据的重要形式广泛存在于实际问题中，由于流数据中数据分布变化产生概念漂移，容易导致模型的泛

化性能下降，且在实际应用问题中，数据标记成本较高，难以获得强监督的信息．针对以上问题，本文提出一种基于在线深度神

经网络的弱监督概念漂移检测（Ｗｅａｋｌｙｓｕｐｅｒｖｉｓｅｄｃｏｎｃｅｐｔｕａｌｄｒｉｆｔｄｅｔｅｃｔｉｏｎｍｅｔｈｏｄｂａｓｅｄｏｎｏｎｌｉｎｅｄｅｅｐｎｅｕｒａｌｎｅｔｗｏｒｋ，ＷＳＣ

ＤＤ）方法．该方法设计了一种在线深度神经网络模型，采用Ｈｅｄｇｅ反向传播方法在线学习网络深度，并通过设计Ｄｒｏｐｏｕｔ层在

模型预测时引入随机性，利用蒙特卡罗方法量化深度神经网络模型的预测不确定性，通过自适应滑动窗口技术检测弱监督环境

下概念漂移的发生，并使模型适应新的概念．实验结果表明，该方法可以准确检测数据流中概念漂移的发生，在漂移发生后能够

快速收敛到新的数据分布，提高了学习模型的泛化性能．

关键词：流数据；概念漂移；弱监督；深度神经网络；蒙特卡罗方法；预测不确定性

中图分类号：ＴＰ１８１文献标识码：Ａ文章编号：１０００１２２０（２０２４）０９２０９４０８

ＷｅａｋｌｙＳｕｐｅｒｖｉｓｅｄＣｏｎｃｅｐｔＤｒｉｆｔＤｅｔｅｃｔｉｏｎＭｅｔｈｏｄｆｏｒＯｎｌｉｎｅＤｅｅｐＮｅｕｒａｌＮｅｔｗｏｒｋｓ

１，２１１，２

ＭＡＱｉａｎｊｕｎ，ＧＵＯＨｕｓｈｅｎｇ，ＷＡＮＧＷｅｎｊｉａｎ

１（ＳｃｈｏｏｌｏｆＣｏｍｐｕｔｅｒａｎｄＩｎｆｏｒｍａｔｉｏｎＴｅｃｈｎｏｌｏｇｙ，ＳｈａｎｘｉＵｎｉｖｅｒｓｉｔｙ，Ｔａｉｙｕａｎ０３０００６，Ｃｈｉｎａ）

２（ＫｅｙＬａｂｏｒａｔｏｒｙｏｆＣｏｍｐｕｔａｔｉｏｎａｌＩｎｔｅｌｌｉｇｅｎｃｅａｎｄＣｈｉｎｅｓｅＩｎｆｏｒｍａｔｉｏｎＰｒｏｃｅｓｓｉｎｇ（ＳｈａｎｘｉＵｎｉｖｅｒｓｉｔｙ），ＭｉｎｉｓｔｒｙｏｆＥｄｕｃａｔｉｏｎ，Ｔａｉｙｕａｎ０３０００６，Ｃｈｉｎａ）

Ａｂｓｔｒａｃｔ：Ａｓａｎｉｍｐｏｒｔａｎｔｆｏｒｍｏｆｂｉｇｄａｔａ，ｓｔｒｅａｍｉｎｇｄａｔａｉｓｗｉｄｅｌｙｐｒｅｓｅｎｔｉｎｐｒａｃｔｉｃａｌｐｒｏｂｌｅｍｓ，ｄｕｅｔｏｔｈｅｃｈａｎｇｅｏｆｄａｔａｄｉｓｔｒｉｂｕ

ｔｉｏｎｉｎｓｔｒｅａｍｉｎｇｄａｔａ，ｃｏｎｃｅｐｔｕａｌｄｒｉｆｔｏｃｃｕｒｓ，ｗｈｉｃｈｅａｓｉｌｙｌｅａｄｓｔｏｔｈｅｄｅｃｌｉｎｅｏｆｔｈｅｇｅｎｅｒａｌｉｚａｔｉｏｎｐｅｒｆｏｒｍａｎｃｅｏｆｔｈｅｍｏｄｅｌ，ａｎｄｉｎ

ｐｒａｃｔｉｃａｌａｐｐｌｉｃａｔｉｏｎｐｒｏｂｌｅｍｓ，ｔｈｅｃｏｓｔｏｆｄａｔａｌａｂｅｌｉｎｇｉｓｈｉｇｈ，ａｎｄｉｔｉｓｄｉｆｆｉｃｕｌｔｔｏｏｂｔａｉｎｓｔｒｏｎｇｌｙｓｕｐｅｒｖｉｓｅｄｉｎｆｏｒｍａｔｉｏｎ．Ｔｏｓｏｌｖｅｔｈｅ

ａｂｏｖｅｐｒｏｂｌｅｍｓ，ｔｈｉｓｐａｐｅｒｐｒｏｐｏｓｅｓａＷｅａｋｌｙｓｕｐｅｒｖｉｓｅｄｃｏｎｃｅｐｔｕａｌｄｒｉｆｔｄｅｔｅｃｔｉｏｎｂａｓｅｄｏｎｏｎｌｉｎｅｄｅｅｐｎｅｔｗｏｒｋ（ＷＳＣＤＤ）ｍｅｔｈｏｄ．

Ｔｈｉｓｍｅｔｈｏｄｄｅｓｉｇｎｓａｎｏｎｌｉｎｅｄｅｅｐｎｅｕｒａｌｎｅｔｗｏｒｋｍｏｄｅｌ，ｕｓｅｓｔｈｅＨｅｄｇｅｂａｃｋｐｒｏｐａｇａｔｉｏｎｍｅｔｈｏｄｔｏｌｅａｒｎｔｈｅｎｅｔｗｏｒｋｄｅｐｔｈｏｎｌｉｎｅ，

ｉｎｔｒｏｄｕｃｅｓｒａｎｄｏｍｎｅｓｓｉｎｔｏｔｈｅｍｏｄｅｌｐｒｅｄｉｃｔｉｏｎｂｙｄｅｓｉｇｎｉｎｇｔｈｅＤｒｏｐｏｕｔｌａｙｅｒ，ｑｕａｎｔｉｆｉｅｓｔｈｅｐｒｅｄｉｃｔｉｏｎ