具有增加删除机制的正则化极端学习机的混沌时间序列预测-物理学报.pdfVIP

物理学报 Acta Phys. Sin. Vol. 62, No. 24 (2013) 240509 具有增加删除机制的正则化极端学习机的 混沌时间序列预测* † 赵永平 王康康 ( 南京理工大学机械工程学院, 南京 210094 ) ( 2013 年8 月13 日收到; 2013 年9 月17 日收到修改稿) 针对正则化极端学习机的隐层具有随机选择的特性, 提出了一种增加删除机制来自适应地确定正则化极端学 习机的隐层节点数. 这种机制以对优化目标函数影响的大小作为评价隐层节点优劣的标准, 从而淘汰那些比较“差” 的节点, 将那些比较“优” 的节点保留下来, 起到一个优化正则化极端学习机隐层节点数的目的. 与已有的只具有增 加隐层节点数的机制相比较, 本文提出的增加删除机制在减少正则化极端学习机隐层节点数、增强其泛化性能、提 高其实时性等方面具有一定的优势. 典型混沌时间序列的实例证明了具有增加删除机制的正则化极端学习机的有 效性和可行性. 关键词: 混沌时间序列, 人工神经网络, 极端学习机 PACS: 05.45.Tp, 05.45.−a, 02.50.Ey DOI: 10.7498/aps.62.240509 模和预测也取得了一些研究成果 9−11 . 最近, 一 1 引言 种确定正则化ELM (regularized ELM, RELM)12 隐 层节点数目的方法被提了出来, 并且该方法借助 混沌现象是自然界中广泛存在的一种不规则 于Choleskey 分解加快其求解速度, 在本文将这种 运动, 诸如脑电波信号、地震波、太阳黑子、大气 方法简记为CRELM (Choleskey-assisted RELM)13 . 1 运动等都可以较好地运用混沌理论来解释 . 混沌 CRELM 选择隐层节点数目的方式是根据RELM 具有内随机性、整体稳定局部不稳定、短期可预 优化目标的变化规律来确定的. 随着隐层节点数 2 测而长期不可预测性等特征 . 随着混沌理论研究 目的增加, RELM 的优化目标的数值逐渐减小, 当 的不断深入及其在电力、金融、生物医学及短期 其变化比较缓慢或在可接受范围内时, 就可以认为 气候预测等领域中的应用, 混沌时间序列的建模和 RELM 的结构已经饱和, 从而达到自动确定RELM 预测已成为混沌信息处理领域中的一个研究热点. 隐层节点数目的目的. 目前, 已有多种方法被应用到混沌时间序列的建模 在机器学习领域有一个非常著名的用来设计 和预测中. 在这众多的方法当中, 人工神经网络因 机器学习算法的一般化哲学原则, 即Occam 剃刀 其具有较强的自适应性、自学习能力与非线性映 原理(Occam’s razor)14 , 它忠告我们: 除非必要, “实 射能力而倍受重视, 像模糊神经网络、径向基函数 体” 不应该随便增加. “实体” 在这里可以理解为 神经网络、回声状态网络等都已被应用于混沌时 RELM 的隐层节点. 根据Occam 剃刀原理, 如果 间序列建模和预测研究中, 取得了较好的效果1−5 . 有更好的优化RELM 目标的方法, 其隐层