时变系统辨识的改进递推最小二乘算法.pdfVIP

振动与冲击 V1BRAlIONANDSHOCK 第28卷第6期 JOURNAI．0F 基于前向神经网络的非线性时变系统辨识的改进递推最小二乘算法 于开平，牟晓明 (哈尔滨工业大学航天学院，哈尔滨150001) 摘 要：标准的递推最：b--乘算法随着递推次数的增加，增益矩阵将逐渐趋于零，致使递推算法慢慢失去修正能 力，出现所谓的“数据饱和”现象。为了克服“数据饱和”问题，首先对递推最：b--乘算法进行改进，得到了改进的最／b- 乘算法(IRLS)，并给出了收敛性证明，然后将该算法应用于基于前向神经网络的非线性时变系统辨识。通过对两个非线 性时变系统进行有效验证，仿真结果表明本文算法计算精度高、计算速度快、数值稳定性好，并能有效克服“数据饱和”。 关键词：非线性时变系统；多层前向神经网络；系统辨识；改进递推最小二乘算法 中图分类号：TP271；0322文献标识码：A 严格地讲，现实中的系统都具有一定的时变性和 1 系统描述与神经网络模型 非线性，因此非线性时变系统辨识的研究近年来逐渐 得到关注…。基本的方法主要有时间序列分析方 离散的非线性时变系统可描述为： 法汪。J、以及人工神经网络方法H一‘7】。其中人工神经网 (1) 络已经被广泛地应用于非线性系统辨识问题，并取得 “(k一1)，…，“(k一，l。)；0(k)]+t，(后) 良好的效果但大部分研究工作还仅局限于定常系统， 只是近几年来被推广到时变系统。目前用得最多的是 量、输入向量和噪声向量；rt，和n。分别为输出和输入 多层前向神经网络结构，其权系数的训练多采用误差 的最大延迟；口(k)为系统时变参数向量；，为未知的非 反向传播(BP)算法及一些改进算法【8J。BP算法的一 线性向量函数。本文采用三层前向神经网络结构，设 个主要缺陷是收敛速度慢而且容易陷入局部极值。文 献[9]提出一种训练多层前向神经网络的RIS算法，这曰。(k)、B：(k)分别表示输入层与隐层单元之间的连接 是一种快速学习算法，与标准BP算法相比，学习效率 权值矩阵、隐层单元与输出层之间的连接权值矩阵、隐 提高10倍以上，但这种方法的主要缺陷是存在数值稳 层单元的偏置向量和输出层单元的偏置向量，则前向 定问题和鲁棒性不强的问题。文献[10]提出一种修正神经网络的模型可用如下方程描述： 的基于递推最：b-乘算法(RLS)的多层前向神经网络 (2) (3) 的快速学习算法，该算法具有较强的鲁棒性，而且不存 y(五)=w2(I|})^(I|})+曰：(后) 在数值稳定问题。尽管最小二乘估计算法的研究已经 式中：p表示k时刻隐含神经元矢量函数。 取得了丰硕成果，但该算法在递推过程中仍会不可避 令p(．|})表示所有神经网络的连接权的N×1向 免地出现“数据饱和”现象。为了克服“数据饱和”问 量，Ⅳ表示网络中所有连接权的个数，结合式(2)和 题，许多学者对其进行了深入研究，提出了不少改进方 (3)，有： 案。文献[11]提出了一种基于前向神经网络的RLS算 法，该算法虽然能克服“数据饱和”问题，但在递推过程 九配(七)，0(七)] (4) 中其误差协方差矩阵几乎不变，这限制了算法的跟踪 式中：，表示网络的逼近函数。 能力。 2学习算法