时频空间Transformer网络在主机负载预测中的应用.pdfVIP

小型微型计算机系统2025年6月第6期

DOI:10.20009/j.cnki.21-1106/TP.2024-0169

JournalofChineseComputerSystemsVol.46No.62025

时频空间Transformer网络在主机负载预测中的应用

赵卫东，潘智涛，张睿，吴乾奕

（复旦大学软件学院，上海市数据科学重点实验室，上海200433）

Email:wdzhao@fudan.edu.cn

摘要：随着大型电子业务系统和科研计算任务日益复杂，预测主机集群未来的指标数据变化趋势具有很强的现实意义.然

而，主机时序数据的时空依赖问题很大程度上阻碍了主机集群资源的高效利用为此，本文提出了TFSformer模型，该模型利用

全局时空注意力和窗口卷积注意力解决了时空依赖问题.在时序数据预处理阶段，本文通过引入Wavelet-TCN-Embedding，实

现了对主机负载特征序列的小波分解，将短期和全局时序依赖的特征有效地提取出来，从而提高了预测的准确性.其次，模型通

过引入全局时空注意力和窗口卷积注意力，可以挖掘不同负载指标之间的空间依赖关系并且实现了对不同时间尺度下的时间

依赖关系的关注，以此解决主机时间序列的时空依赖问题.同时，在主机系统上的实验证明了TFSformer在短期序列预测方面

具备出色的性能，模型有效地提高了集群资源利用率并且降低了运维成本。

关键词：时间序列预测；TFSformer；Wavelet-TCN-Embedding；全局时空注意力；窗口卷积注意力

中图分类号：TP391文献标识码：A文章编号：1000-1220(2025)06-1281-08

ApplicationoftheTime-frequency-spaceTransformerNetworkinHostLoadPrediction

ZHAOWeidong,PANZhitao,ZHANGRui,WUQianyi

(SchoolofSoftware,ShanghaiKeyLaboratoryofDataScience,FudanUniversity,Shanghai200433,China)

Abstract:Withtheincreasingcomplexityoflarge-scaleelectroniccommercesystemsandresearchcomputingtasks,predictingthefu-

turetrendsofindicatordataforhostclustersholdssignificantpracticalsignificance.However,thespatiotemporaldependencyissueof

hosttimeseriesdatalargelyimpedestheefficientutilizationofhostclusterresources.Toaddressthis,thispaperproposestheTFS-

formermodel,whichutilizesglobalspatiotemporalattentionandwindowedconvolutionattentiontotacklethespatiotemporaldepend-

encyproblem.Inthepreprocessingstageoftimeseriesdata,thispaperintroducesWavelet-TCN-Embeddingtoeffectivelyextractfea-

turesofshort-termandglobaltemporaldependenciesfromhostloadcharacteristicsequences,therebyimprovingpredictionaccuracy.

Furthermore,them