基于oskelm的非平稳混沌时间序列分析.docxVIP

基于oskelm的非平稳混沌时间序列分析 摘要：对非平稳混沌时间序列进行在线预测是当前科学和工程领域中的一个重要研究方向，核极限学习机(kernel extreme learning machine,KELM)为其提供了一种有效的数学模型。由于学习速度快、泛化性能好，在线贯序核极限学习机(online sequential KELM,OSKELM)在状态预测中得到了广泛的研究与扩展。首先，描述了问题并介绍了OSKELM的数学模型;然后，以混沌时间序列为应用背景，对基于OSKELM的各种改进方法进行了分类综述，包括基于数据增量的OSKELM、基于稀疏字典的OSKELM、基于参数寻优和遗忘因子的OSKELM以及其他方法，并对算法性能进行比较和分析;最后总结并讨论了该方法的未来研究方向。 近几十年来，时间序列预测得到了深入的讨论与研究，并在容错分析、状态预测、状态监测和故障诊断等科学领域中发挥着重要作用尽管OS-ELM具有诸多优点，但需要确定隐含层个数的问题依然存在毫无疑问KELM在线应用的研究是一项非常有意义的工作。自基于核增量的极限学习机(kernel based incremental ELM,KB-IELM)在2014年被提出1 OSKELM的问题描述与数学模型1.1 KELM数学模型KELM是OSKELM的理论基础。假设S={(x其中，β=[β由KKT优化条件，可得式(1)输出权值β根据Mercer条件定义核矩阵为Ω=HH[k(·，x在OSKELM中，令A对于n+1时刻的新观测数据(x其中，k式中，ρ由上可见，不同于传统的将新旧样本收集在一起再重新训练，当新样本来临时，KB-IELM方法通过更新矩阵A2 改进的OSKELM算法在时间序列在线预测的现实应用中，时间序列样本以数据流的形式贯序到达，目标系统的实时动态随着不断改变，这就要求模型在获得新样本信息的同时，及时消除过时或者失效的样本对于系统的影响。在线稀疏化可以有效解决模型膨胀的问题，追踪系统的动态变化。随着研究的深入，KELM模型的稀疏化方法和追踪系统动态方面产生了很多研究成果。本节以KB-IELM为基础，基于在线学习理论，从OSKELM的在线稀疏化与跟踪非线性系统时变动态特征2个角度出发，对改进的OSKELM算法进行总结分析，如图1所示，将改进OSKELM算法归纳为以下几类方法:基于滑动时间窗的OSKELM算法、基于稀疏测度的OSKELM算法、基于参数寻优的OSKELM算法、基于遗忘因子的OSKELM算法、基于多变量的OSKELM算法以及其他方法。2.1 基于稀疏化方法的OSKELM目前，已有很多针对OSKELM的稀疏化策略2.1.1 滑动时间窗在对系统使用在线时间序列学习算法进行学习的过程中，抛弃那些效果较差或过时的训练样本，不仅可以减小旧样本对模型可能产生的误导作用，还能阻止模型无限膨胀。文献滑动时间窗克服了矩阵展开的问题，在时变系统辨识的稳定性和计算复杂度等方面均优于KB-IELM。同时可见，添加与删除样本的过程依然具有一定的算法复杂度，针对这一点，文献2.1.2 稀疏字典滑动时间窗将窗内的所有样本重要性视为相同，并且将一定时间距离的样本直接舍弃。然而，在时变与非平稳环境中，样本的重要性主要决定于时间序列的内在结构，新样本并不一定对现阶段模型的影响为最大。因此，文献其中Ω容易看出，上述稀疏化方法虽然具有较低的复杂度，但是阈值的选择依然具有主观性;因此文献相反的，积累一致性越小，说明字典元素间相似性越小。将删除第i个关键节点后剩余节点的积累一致性记为这种无监督的方法，不用预先定义稀疏参数，只需要选择稀疏字典的规模大小，在学习有用信息的同时，保证了模型的简洁。但是显然的，这种方法也额外增加了每个步骤中信息量的计算过程，而快速留一交叉验证(fast leave-one-out cross-validation,FLOO-CV)方法则E若不成立，则字典保持不变。由上可见，该方法一方面无需先验知识、根据系统自适应调整误差阈值，从而决定是否吸收新样本;另一方面没有引入额外的参数计算量，因此得到了广泛的应用。2.2 基于参数寻优的OSKELM以上方法虽然有效解决了图1中的第一个问题，但是第二个问题还没有得到彻底的解决。为了能够更好的追踪时变系统动态特征，参数寻优成为了下一步研究的方向。参数寻优可以分为两类，一类是自适应正则化因子，其数值会根据训练步骤而发生实时变化;另一类则是模型参数的优化，主要为正则化因子和核参数的联合优化过程。2.2.1 自适应正则化因子非平稳时间序列的分布和变化趋势随着时间不断发生变化，要求模型考虑系统建模过程中的经