第章新型控制策略.pptVIP

3. 函数型 有代表性的有Sigmoid型和高斯型函数。Sigmoid型函数表达式为 图6-10 Sigmoid型函数 第三十一页，共七十七页。 6.2.2 BP神经网络 1986年，Rumelhart等提出了误差反向传播神经网络，简称BP网络(Back Propagation)，该网络是一种单向传播的多层前向网络。 误差反向传播的学习算法简称BP算法，其基本思想是梯度下降法。它采用梯度搜索技术，以期使网络的实际输出值与期望输出值的误差均方值为最小。 第三十二页，共七十七页。 第三十三页，共七十七页。 2.BP网络结构 图6-11 BP神经网络结构 第三十四页，共七十七页。 3．BP网络的逼近 图6-12 BP神经网络逼近 第三十五页，共七十七页。 用于逼近的BP网络如图6-13所示。 图6-13 用于逼近的BP网络 第三十六页，共七十七页。 BP算法的学习过程由正向传播和反向传播组成。在正向传播过程中，输入信息从输入层经隐层逐层处理，并传向输出层，每层神经元(节点)的状态只影响下一层神经元的状态。如果在输出层不能得到期望的输出，则转至反向传播，将误差信号(理想输出与实际输出之差)按连接通路反向计算，由梯度下降法调整各层神经元的权值，使误差信号减小。 (1)正向传播：计算网络的输出。 (2)反向传播：采用 学习算法，调整各层间的权值。 第三十七页，共七十七页。 (1)正向传播：计算网络的输出。 隐层神经元的输入为所有输入的加权之和，即 隐层神经元的输出 采用S函数激发 ，得 则 输出层神经元的输出为 第三十八页，共七十七页。 误差性能指标函数为 网络输出与理想输出误差为 第三十九页，共七十七页。 (2)反向传播：采用 学习算法，调整各层间的权值。 根据梯度下降法，权值的学习算法如下： 输出层及隐层的连接权值 学习算法为 式中， 为学习速率， 。 k十1时刻网络的权值为 隐层及输入层连接权值 学习算法为 式中， 。 问题:如何调整权值W，使E最小。可用梯度下降法来求解，其基本思想是沿E的负梯度方向不断修正权值，直到E达到最小。 第四十页，共七十七页。 k十1时刻网络的权值为 为厂避免权值的学习过程发生振荡、收敛速度慢，需要考虑上次权值变化对本次权值变化的影响，即加入动量因子 。 此时的权值为 式中， 为动量因子， 。 第四十一页，共七十七页。 4. BP网络逼近仿真实例 使用BP网络逼近对象 第四十二页，共七十七页。 图6-14 BP网络逼近效果 第四十三页，共七十七页。 图6-15 BP网络逼近误差 第四十四页，共七十七页。 图6-16 Jacobian信息的辩识 第四十五页，共七十七页。 5. BP网络的忧缺点 BP网络的优点： 1.只要有足够多的隐层和隐层节点，BP网络可以逼近任意的非线性映射关系；由于BP网络具有很好的逼近非线性映射的能力，该网络在模式识别、图像处理、系统辨识、函数拟合、优化计算、最优预测和自适应控制等领域有着较为广泛的应用。 2.BP网络的学习算法属于全局逼近算法，具有较强的泛化能力，可用于神经网络控制器的设计。 3.BP网络输入输出之间的关联信息分布地存储在网络的连接权中，个别神经元的损坏只对输入输出关系有较小的影响，因而BP网络具有较好的容错性。 第四十六页，共七十七页。 BP网络的主要缺点为： 1. 待寻优的参数多，收敛速度慢；难以适应实时控制的要求。 2. 目标函数存在多个极值点，按梯度下降法进行学习，很容易陷入局部极小值； 3. 难以确定隐层及隐层节点的数目。目前，如何根据特定的问题来确定具体的网络结构尚无很好的方法，仍需根据经验来试凑。 第四十七页，共七十七页。 6. BP网络模式识别 由于神经网络具有自学习、自组织和并行处理等特征，并具有很强的容错能力和联想能力，因此，神经网络具有模式识别的能力。 在神经网络模式识别中，根据标准的输入输出模式对，采用神经网络学习算法，以标准的模式作为学习样本进行训练，通过学习调整神经网络的连接权值。当训练满足要求后，得到的神经网络权值构成了模式识别的知识库，利用神经网络并行推理算法便可对所需要的输入模式进行识别。 第四十八页，共七十七页。 神经网络模式识别具有较强的鲁棒性。当待识别的输入模式与训练样本中的某个输入模式相同时，神经网络识别的结果就是与训练样本中相对应的输出模式。当待识别的输入模式与训练样本中所有输入模式都不完全相同时，则可得到与其相近样本相对应的输出模式。当待识别的输入模式与训练样本中所有输入模式相差较远时，就不能得到正确的识别结果，此时可将这一模式作为新的样本进行训练，使神经