遗传算法与递归神经网络在非线性系统辨识中的应用.pptVIP

遗传算法与递归神经网络在非线性系统辨识中的应用 Application of genetic algorithm and recurrent network to nonlinear system identification 主要内容： 本文提出了一种遗传算法与递归神经网络的非线性系统辨识算法。该算法中的递归神经网络使用的是连续型Hopfield神经网络结构，在文章中首先对该种神经网络的收敛性能进行了分析，然后将其应用于对非线性系统的辨识。同时，应用遗传算法来获得网络的参数，并给出了遗传算法的简要步骤。最后进行了仿真，仿真结果表明这种算法能成功地应用在非线性系统的辨识中。 1.Hopfield网络模型结构及收敛性 Hopfield网络是由一层相互作用的神经元构成的，与多层网络不同的是，递归网络的神经元是一种全反馈[5-6]。这种网络中每个神经元的状态方程是用微分（连续型）或差分方程（离散型）方程来表示的。在本文，我们只考虑连续型模型。其工作方式为： 在文献[9]中用简化的能量函数对该种网络的稳定性进行了研究。 对上式的两边求导同时令 ， 应用求导定理， 则可得 由于yi是关于vi的Sigmoid函数，则可知道 总是大于0，因此，其能量梯度为非正。这就说明动态系统服从能量最小，即随着时间的变化，网络状态总是朝E减小的方向运动，一直到E取得极小值，这时所有的vi变为常数，即网络收敛到稳定状态。 网络的学习算法： 误差代价函数为定义： 待辨识系统为： 对于（12）式，有 2.应用遗传算法获得网络的参数 因为遗传算法具有全局优化的能力，因此适合确定递归网络的操作算子 、s和T，这些参数能指出系统的性能。GA是基于生物进化和人类遗传原理的搜索和优化算法。GA的基本原理首先是由Holland提出的[20]。GA算法是假设问题潜在解是一个个体，且由一系列参数表示。这些参数即为基因的染色体，是由一串二进制构成的。一般来说，当适应度值为正时，则表明染色体含有“优秀”的基因，而适应度值则是与问题的目标函数相关联的[21]。 通过遗传进化，经过淘汰而留下的染色体的后代具有更好的适应性，因而可作为问题的最优解。在一些GA算法的应用中，染色体群的初始值都是随机设定的。在每一轮遗传进化中，现存的染色体群通过进化操作生成后代。这些能成功进化的染色体群即被称为父代群或配偶池，是通过一些特殊的选择规则来确定的。父代基因通过交叉和重组产生后代。在进化的过程中，好的染色体会生成更多的下代，其后代也会有更高的存活率，这是模拟自然界中的优胜劣汰规则。 通过重复进化，直到达到了期望的终止条件。这个终止条件或为进化的代数，或为不同代数个体变化数量，或为一个预先定义的适应度值。为了使简化GA的进化，本文采用的选择算子是一个普遍的轮盘选择法[22]。本文所用的交叉算子是随机设定的。两组染色体在交叉点处的右边部分通过互换位置形成下代。交叉概率（Pc）通过在0.6到1.0之间。而对于变异算子，则是在交叉之后对每一个后代个体进行的。是对染色体的每一位以小概率进行变异，这个概率（Pm）通常小于0.1。 变异概率Pm和交叉概率Pc作为控制参数是解决复杂非线性优化问题的参数。另外，他们的设定值是依赖于目标函数的。在本文中，群体大小为20，交叉概率为0.8，变异概率为0.01，每串染色体有24位，每8位分别为 、s和T，适应度函数定义为： 3.系统表示和学习过程 给定一个简单的非线性系统： 将Hopfield网络的公式及上式(16)代入方程（11）可得[19]： 图2所示为用本文讨论的单层递归神经网络来辨识一个连续时间模型的方框图，应用方程（9）来辨识系统结构，下面将描述如何来辨识非线性系统。 Step 3: 通过方程(18)计算[wij],[Ii] ，方程（18）中的积分即为Step2的结果进行累加。 Step 4: 应用方程(2)和(7)更新神经元的输出。 Step 5: 检验系统的收敛性，如果对于所有的i和 均有 成立，则转到Step 6，否则令 ，然后跳回Step 4。 Step 6：检验GA的适应度值，如果出现收敛，则停止学习，并打印出未知系统的参数，否则跳回Step 1。 5. 例子 本节应用仿真计算来讨论非线性动态系统的辨识效果。待辨识的系统用方程（15）表示，本文用一个简单的非线性系统来测验我们的学习算法。 表I显示了不同的时间段T其收敛速度也不同的。Sigmoid函数的不同幅值S，得到的误差也不同，如表格II所示。对于不同的系统，优化集T、s和 也是不同的。表格III表示了用GA优化网络参数的