融合多种时空自注意力机制的Transformer交通流预测模型.pdfVIP

计算机系统应用

ISSN

1003-3254,

CODEN

CSAOBNE-mail:

csa@

Computer

Systems

Applications,2024,33(4):82−92

[doi:

10.15888/ki.csa.009451]

©中国科学院软件研究所版权所有.Tel:

+86-10

融合多种时空自注意力机制的Transformer

交通流预测模型①

1,21,231,21,2

曹威,

王兴,

邹复民,

金彪,

王小军

1(福建师范大学

计算机与网络空间安全学院,

福州

350117)

2(福建师范大学

数字福建大数据安全技术研究所,

福州

350117)

3(福建理工大学

福建省汽车电子与电驱动技术重点实验室,

福州

350118)

通信作者:

王兴,

E-mail:

wangxing@

摘要:

交通流预测是智能交通系统中实现城市交通优化的一种重要方法,

准确的交通流量预测对交通管理和诱导

具有重要意义.

然而,

因交通流本身存在高度时空依赖性而表现出复杂的非线性特征,

现有的方法主要考虑路网中

节点的局部时空特征,

忽略了路网中所有节点的长期时空特征.

为了充分挖掘交通流数据复杂的时空依赖,

提出一

种融合多种时空自注意力机制的Transformer交通流预测模型(MSTTF).

该模型在嵌入层通过位置编码嵌入时间

和空间信息,

并在注意力机制层融合邻接空间自注意力机制,

相似空间自注意力机制,

时间自注意力机制,

时间-空

间自注意力机制等多种自注意力机制挖掘数据中潜在的时空依赖关系,

最后在输出层进行预测.

结果表明,

MSTTF

模型与传统时空Transformer相比,

MAE平均降低了10.36%.

特别地,

相比于目前最先进的PDFormer模型,

MAE

平均降低了1.24%,

能取得更好的预测效果.

关键词:

交通流预测;

智能交通;

时空依赖性;

Transformer;

自注意力机制

引用格式:

曹威,王兴,邹复民,金彪,王小军.融合多种时空自注意力机制的Transformer交通流预测模型.计算机系统应用,2024,33(4):82–92.

/1003-3254/9451.html

TransformerTrafficFlowPredictionModelIntegratingMultipleSpatiotemporalSelf-attention

Mechanisms

1,21,231,21,2

CAO

Wei,

WANG

Xing,

ZOU

Fu-Min,

JIN

Biao,

WANG

Xiao-Jun

1(College

of

Computer

and

Cyber

Security,

Fujian

Normal

University,

Fuzhou

350117,

China)

2(Digital

Fujian

Institute

of

Big

Data

Security

Technology,

Fujian

Normal

University,

Fuzhou

350117,

China)

3(Fujian

Key

Laboratory

of

Automotive

Electronics

and

Electric

Drive,

Fujian

University

of

Technology,

Fuzhou

350118,

China)

Abstract:

Traffic

flow

prediction

is

an

important

method

for

achieving

urban

traffic

optimization

in

intelligent

trans-

portation