基于BP算法系统辨识.docVIP

基于BP算法系统辨识 　　摘要：讨论BP算法用于系统辨识时样本数的选取对训练速率的影响，确立一种选取每一时刻学习样本数的标准，在此标准下，既能保证训练网络的相对性，又能大大加快其收敛速度。 　　关键词：BP算法；系统辨识；样本 　　中图分类号：TP311 文献标识码：A 文章编号：1009-3044(2008)11-20313-02 　　 　　三层BP网络能逼近任意的非线性函数，并已成功地应用于非线性系统的辨识[1]。由于在进行非线性系统辨识时的在线学习算法是在每一时刻采集一个样本进行训练，因此，若训练速率小，则训练过程相对稳定，但耗时长；若训练速率大，则会引起学习模型的振荡，即碰到极小点也可能会很快跳出，特别是当噪声存在时，就振荡得更剧烈，往往达不到必要的精度，并影响辨识的速度。 　　本文从线性系统辨识和BP神经网络[2]的特点出发，讨论在进行非线性动态系统辨识时选取每一时刻的训练样本数对训练速率的影响，从而确立一种选取每一时刻学习样本数的标准，在此标准下，既能保证训练网络的相对稳定性，又能大大加快其收敛速度。 　　 　　1 问题的陈述 　　 　　系统辨识就是利用观测到的输入输出数据确定动力学系统模型的过程。就控制而言，其目的是为了设计控制策略[3]。 　　BP网络就有逼近非线性函数的功能。对于一组学习样本{xi，yi}，(i=1,2,…,k)，可以认为存在一映射G，使得yi=G(xi)。网络对此样本集的学习，实际上就是自动寻找一种内部表达，它实现映射F，使得在某种指标下，F足够逼近G。对BP网络，只要有足够多的隐节点，网络就能实现输入到输出的映射。 　　上述性质使得BP网络在静态模型辨识中的应用成为可能。若在静态BP网络中引入反馈和时间延迟，则静态模型变成动态模型。动态BP网络如图[4]所示： 　　 　　动态BP网络可用来作离散动态系统的辨识，学习算法采用BP算法。文中采用的系统辨识模型为串并联模型，如图2所示。 　　 　　图中： 　　 　　2BP算法用于系统辨识的研究 　　 　　2.1 线性系统的辨识 　　2.1.1 理论分析 　　考虑如下线性系统的辨识的参数辨识问题: 　　 　　交流\2008学术交流第二卷第二期\第2批 42\5 人工智能及识别技术\a3.jpg 　　（1）用传统的方法如最小二乘法辨识上述线性系统模型，实质上就是解一个线性方程的问题，也就是确定参数a1,a2,…,an，b1,b2,…,bn的过程。 　　在每一时刻在线学习一个样本，就相当于通过一个样本解一个不定方程。因有n+m+1个参数需要确定，所以至少需要n+m+1个样本才能辨识出上述线性系统模型，也就是说，至少需要n+m+1个样本才能较好地反映系统的特性。一般情况下，考虑有噪声的影响，样本数需远大于n+m+1。 　　（2）用BP网络作为学校模型辨识上述线性系统模型，实质上就是用BP网络逼近上述系统函数的过程，也就是将控制对象看作一黑箱，以实测的输入输出数据为样本，将其送入BP网络学习，确定其内部表达的过程。对一个三层BP网络，假设输入层、隐层、输出层的节点数分别为n1,n2,n3个，用BP网络辨识上述系统的过程就是通过每一时刻采集到的样本去确定各节点的权值和阈值（共n1×n2+n2×n3+n2+n3个参数）的过程。 　　既然用n+m+1个样本可以辨识具有n+m+1个未知参数的线性模型，也就是说，n+m+1个样本可以较好地反映具有n+m+1个未知参数的系统的特性，那么n1×n2+n2×n3+n2+n3个样本可以较好地反映一个具有n1×n2+n2×n3+n2+n3个参数的神经网络的特性。所以，如果在每一时刻，用这一时刻及其前面时刻采集到的共n1×n2+n2×n3+n2+n3个样本对神经网络学习，那么，在同一训练速率下，会大大提高学习网络的平稳性，并能在更少的时间内收敛。 　　下面具体说明改进的BP算法： 　　设第p个样本第l层第i个神经元节点输出为ypil；第p个样本第l+1层第j个神经元节点输出为xpjl+1；第p个样本第l层第i个神经元节点到第j个神经元节点之间的权重为Wijl，则有如下关系： 　　 　　其中： 。 　　误差函数定义为：。 　　为减小J，根据梯度下降法有： 　　 　　由图3中可以看出当每一时刻的训练样本数p从1到40增加时，用于辨识的采样时刻数值明显减少，即辨识的速度明显提高；当p大于40并继续增加时，辨识的速度不再明显提高。而网络需要确定的参数共有4×6+6×1+6+1=37个。可见，仿真结果与理论分析是一致的。 　　p=40时，如果η适当增大，可以达到既平稳又快速的辨识效果。当然如果η太大，则仍会引起振荡。辨识效果如图4所示。 　　2.2 非线性系统