结合Transformer的双向GRU入侵检测研究.pdfVIP

ComputerEngineeringandApplications计算机工程与应用2025，61（10）299

结合Transformer的双向GRU入侵检测研究

+

李道全，刘旭寅，刘嘉宇，陈思慧

青岛理工大学信息与控制工程学院，山东青岛266520

+通信作者E-mail：1261715631@

摘要：在网络入侵检测系统中，以往的系统在特征提取时容易受到噪声特征的干扰，面对不平衡数据时对少数类

样本边界区分不明显，同时检测模型容易错过重要时间点的信息。这些问题影响了模型的训练效果，降低了模型的

检测性能。为应对这些挑战，提出了一种结合鸽群优化算法和边界合成少数过采样技术的Transformer-双向门控循

环单元（bidirectionalgatedrecurrentunit，BiGRU）混合模型。通过鸽群优化算法自动进行特征选择，以提升模型处

理复杂数据集的能力，并降低噪声特征的干扰。采用边界合成少数过采样技术对数据进行平衡处理，特别是针对少

数类样本，提高其在平衡数据集中的代表性和质量。构建了一个集成Transformer和BiGRU的深度学习模型来进行

入侵检测，利用Transformer捕捉全局依赖关系的特征提取能力，同时借助BiGRU的时间序列建模能力来更好地理

解序列数据的双向上下文关系。在NSL-KDD数据集上的实验结果表明，该模型展现出了良好的检测性能，准确率

达到83.64%，F1分数为78.41%，均超过了对比的传统机器学习模型和深度学习模型。

关键词：鸽群优化算法；边界过采样；多头注意力；双向循环门控单元；入侵检测

文献标志码：A中图分类号：TP393.0doi：10.3778/j.issn.1002-8331.2405-0065

IntrusionDetectionResearchCombiningTransformerandBidirectionalGRU

+

LIDaoquan,LIUXuyin,LIUJiayu,CHENSihui

SchoolofInformationandControlEngineering,QingdaoUniversityofTechnology,Qingdao,Shandong266520,China

Abstract：Innetworkintrusiondetectionsystems,previoussystemsoftensufferedfrominterferencebynoisyfeatures

duringfeatureextraction,exhibitedpoordistinctionattheboundariesofminorityclasssampleswhendealingwithimbal-

anceddata,andthedetectionmodelstendedtomissimportanttemporalinformation.Suchissuescompromisedthetraining

effectivenessanddiminishedthedetectionperformanceofthemodels.Toovercomethesechallenges,thispaperintroduces

ahybridmodelthatamalgamatesthepigeon-inspiredoptimization(PIO)algorithmandtheborderlinesyntheticminority

over-samplingtechnique(SMOTE)withaTransformer-bidirectionalgatedrecurrentunit(BiGRU).Thepigeon-inspired

optimizationalgorithmisutilizedforautomaticfeatureselection,enhancingthecapabilityofthemodeltoprocesscom-

plexdatasets,andm