CN119942803B 基于动态时空超图与大语言模型的多模态交通流预测方法 （北京林业大学）.docxVIP

(19)国家知识产权局

(12)发明专利

(10)授权公告号CN119942803B(45)授权公告日2025.07.01

(21)申请号202510426857.8

(22)申请日2025.04.07

(65)同一申请的已公布的文献号申请公布号CN119942803A

(43)申请公布日2025.05.06

(73)专利权人北京林业大学

地址100083北京市海淀区清华东路35号

(72)发明人霍光煜卢雅轩崔晓晖

(74)专利代理机构上海笃学志远专利代理事务所(普通合伙)31541

专利代理师陈飞

(51)Int.CI.

G08G1/01(2006.01)

GO6Q10/047(2023.01)

GO6N3/0455(2023.01)

GO6F18/25(2023.01)

(56)对比文件

CN119252022A,2025.01.03CN116543554A,2023.08.04

审查员杨瑞田

权利要求书4页说明书14页附图2页

(54)发明名称

前馈网络

前馈网络

自注意力机制

多头

自注意力机制

层归一化

前馈网络

层归一化

HF+U

时序位置编码输出Hout

输入Pp

CN119942803B(57)摘要本发明公开了基于动态时空超图与大语言模型的多模态交通流预测方法，涉及计算机机器学习领域，包括：获取交通数据集，对齐文本描述与传感器数据的时间戳，划分训练集、验证集与测试集；构建动态时空超图，保留关键时空依赖关系；构建交通流预测模型，采用训练集对模型进行训练，验证集监控训练过程并调整超参数，最终采用测试集评估模型预测性能。本发明优于

CN119942803B

(57)摘要

CN119942803B权利要求书1/4页

2

1.基于动态时空超图与大语言模型的多模态交通流预测方法，其特征在于，包括以下步骤：

获取交通数据集，对齐文本描述与传感器数据的时间戳，划分训练集、验证集与测试集；

通过FastDTW算法计算DTW距离，再使用阈值筛选关键依赖关系，构建动态时空超图；

构建交通流预测模型，采用训练集对模型进行训练，验证集监控训练过程并调整超参数，最终采用测试集评估模型预测性能；

其中，所述交通流预测模型包括：动态时空超图学习模块DSTHL,文本特征集成模块，基于大语言模型的特征提取模块FEM-LLM以及回归预测模块；

动态时空超图学习模块DSTHL:首先，对动态超图结构进行归一化处理，平衡节点间复杂的时空关联强度；其次，通过两层图网络处理交通数据，生成融合动态关系的节点嵌入表示，最后，通过可学习的投影矩阵将小时/星期编码映射至统一嵌入空间，实现动态权重分配；

文本特征集成模块：使用BERT语言模型提取交通事件文本描述的语义特征，进而采用文本卷积操作TConv将归一化后的嵌入转换为最终表示，与空间卷积SConv得到的空间拓扑特征沿特征维度拼接，通过融合卷积FConv生成多模态特征联合表示；

基于大语言模型的特征提取模块FEM-LLM:采用分层参数解冻策略的Transformer架构，在初始的F层中冻结多头自注意力MHA机制和前馈网络FFN,后续的U层中，动态解冻MHA组件实现局部参数微调，同时保持FFN固定以维持长期依赖表征稳定性，最后融合多模态特征表示和多尺度时空特征并输出深层时空表示；

回归预测模块：将基于大语言模型的特征提取模块FEM-LLM输出的深层时空表示通过二维卷积层解码，得到未来交通流量的预测结果，设计复合损失函数融合L1损失与L2正则化项，在最小化预测误差的同时控制模型复杂度。

2.根据权利要求1所述的基于动态时空超图与大语言模型的多模态交通流预测方法，其特征在于，所述构建动态时空超图，包括如下步骤：

应用FastDTW算法计算路段对之间的动态时间规整DTW距离，距离公式如下：

(1)

其中，Xs,和X,分别表示路段i和j的交通流量序列，X,i,和s,,分别表示路段i和j在时间步t的交通流量值，σ是路段i的交通流量序列的标准差，T是时间窗口内的总时间步数；

利用成对距离，构建一个对称的N×N邻接矩阵G,其中N是路段的总数，每个元素G;的定义如下：

(2)

其中，Tto?%是一个阈值，对应于DTW距离中最小的5%,由此得到