基于字节编码与预训练任务的加密流量分类模型.pdfVIP

研究论文第51卷第2期/2025年2月/计算机工程

基于字节编码与预训练任务的加密流量分类模型

姚利峰，蔡满春*，朱懿，陈咏豪，张溢文

（中国人民公安大学信息网络安全学院，北京100038）

摘要：当预训练模型BERT应用于加密流量分类领域时，缺乏针对加密流量特性设计的编码方法和相应预训

练任务。为此，提出一种融合字节级编码与改进预训练任务的加密流量分类预训练模型。首先，设计了一种新型

词汇表构建方法，增强模型对流量传输结构的表征能力；其次，提出动态掩码BURST预测和同源BURST连贯性

预测2个新的自监督预训练任务，动态掩码BURST预测任务增强模型对加密流量语义多样性的获取能力，同源

BURST连贯性预测任务提高模型对加密流量连贯性顺序的建模能力。实验结果表明，所提模型在CSTNET-

TLS1.3数据集上的准确率、精确率、召回率和F1

7个主流数据集上，所提模型能够有效分类加密流量。

关键词：加密流量分类；预训练模型；字节级编码；自监督预训练任务；微调方法

源代码链接：/LiFengisCoding/ET-SPERT

中图分类号：TP391文献标志码：AD0l:10.19678/j.issn.1000-3428.0069150

EncryptedTrafficClassificationModelBasedonByteCodingand

Pre-TrainingTasks

YAOLifeng,CAIManchun,ZHUYi,CHENYonghao,ZHANGYiwen

(CollegeofInformationandCyberSecurity,PeoplesPublicSecurityUniversityofChina,Beijing100038,China)

[Abstract]Thisstudyproposesapre-trainingmodelthatintegratesbyte-levelencodingandimprovedpre-training

tasksforencryptedtrafficclassification.Theaimistoaddressthelackofcodingmethodsandcorrespondingpre-

trainingtasksindesigningthecharacteristicsofencryptedtrafficduringthepre-trainingoftheBidirectionalEncoder

RepresentationsfromTransformers(BERT)modelinthisfield.First,anovelmethodforconstructinga

vocabularyisproposedtoenhancethemodelsabilitytorepresenttraffictransmissionstructures.Second,twonew

self-supervisedpre-trainingtasksareintroduced:thedynamicmaskBURSTpredictiontask,whichenhancesthe

modelsabilitytocapturesemanticdiversityinencryptedtraffic,andthehomogeneousBURSTcoherence

predictiontask,whichimprovesthemodelsabilitytomodelacoherentsequenceofencryptedtraffic.The

experimentalresultsdemonstratethattheproposedmodelachievesan