注意力改进的动态自组织模块化神经网络结构设计及应用.pdfVIP

://

httwww．skx．com

pjj

:/

DOI１０．１１８９６skx．２３１００００６９

jj

注意力改进的动态自组织模块化神经网络结构设计及应用

张昭昭１潘浩然１朱应钦２

西安科技大学计算机科学与技术学院西安

１７１００５４

墨西哥国立理工高级研究中心自动控制中心墨西哥城

２０７３６０

()

zzzhao１２３＠１２６．com

,,

摘要针对混沌时间序列的复杂性和非线性特点提出了一种专注于此类挑战的新型神经网络模型即注意力改进的动态自

().,,

组织模块化神经网络模型ADAMNN该模型基于分而治之的思想通过注意力机制计算不同子网络与输入数据的相似度

.,,,

并利用层次聚类自适应地划分子网络随后采用基于层次聚类的动态生长机制对子网络簇进行增减最后通过激活的子网

;,,.

络簇对输入样本进行在线学习同时结合传统的集成输出方法提出了一种基于注意力机制的子网络加权集成输出方法最

、、、,

终分别在MackeＧGlass时间序列MＧG快时变时间序列非线性系统辨识煤矿开采过程中在瓦斯浓度数据集上进行了实验

y

、,

ADAMNN展现出了实时更新子网络中心动态构建子网络簇的能力而且与基于欧几里得空间的动态自适应模块化神经网络

,.

相比预测准确度提高了约４０％

:;;;;

关键词模块化神经网络自组织神经网络混沌时间序列注意力机制层次聚类

中图分类号TP１８３

DesinandAlicationofAttentionＧenhancedDnamicSelfＧoranizinModularNeuralNetwork

gppygg

１１２

,

ZHANGZhaozhaoPANHaoranandZHUYinin

gq