基于Transformer的时间序列预测方法综述.pdfVIP

://

httwww．skx．com

pjj

:/

DOI１０．１１８９６skx．２４０５０００４３

jj

基于Transformer的时间序列预测方法综述

,

陈嘉俊１刘波１３林伟伟２郑剑文３谢家晨３

华南师范大学人工智能学院广州

１５１０６３１

华南理工大学计算机科学与工程学院广州

２５１０６４０

华南师范大学计算机学院广州

３５１０６３１

()

１０４６６９６５２８＠．com

qq

,、.,

摘要时间序列预测作为分析历史数据以预测未来趋势的关键技术已广泛应用于金融气象等领域然而传统方法如自

、.,

回归移动平均模型和指数平滑法等在处理非线性模式捕捉长期依赖性时存在局限最近基于Transformer的方法因其自注

,,.,

意力机制在自然语言处理与计算机视觉领域取得突破也开始拓展至时间序列预测领域并取得显著成果因此探究如何将

,.,,

Transformer高效运用于时间序列预测成为推动该领域发展的关键首先介绍了时间序列的特性阐述了时间序列预测的常

.,,

见任务类别及评估指标接着深入解析Transformer的基本架构并挑选了近年来在时间序列预测中广受关注的TransfoＧ

,,、.,

衍生模型从模块及架构层面进行分类并分别从问题解决创新点及局限性个维度进行比较和分析最后进一步探

rmer３

讨了时间序列预测Transformer在未来可能的研究方向.

:;;;;

关键词时间序列Transformer模型深度学习注意力机制预测

中图分类号TP３９１

SurveofTransformerＧbasedTimeSeriesForecastinMethods

yg

,

１１３２３３

,