分神经网络控制案例.PPT

* 2、BP网络 误差反向传播神经网络，简称BP网络（Back Propagation），是一种单向传播的多层前向网络。在模式识别、图像处理、系统辨识、函数拟合、优化计算、最优预测和自适应控制等领域有着较为广泛的应用。如图是BP网络的示意图。 * * 误差反向传播的BP算法简称BP算法，其基本思想是最小二乘算法。它采用梯度搜索技术，以期使网络的实际输出值与期望输出值的误差均方值为最小。 BP算法的学习过程由正向传播和反向传播组成。在正向传播过程中，输入信息从输入层经隐含层逐层处理，并传向输出层，每层神经元（节点）的状态只影响下一层神经元的状态。如果在输出层不能得到期望的输出，则转入反向传播，将误差信号沿原来的连接通路返回，通过修改各层神经元的权值，使误差信号最小。 * BP学习算法的计算步骤： 1) 初始化。置所有权值为较小的随机数； 2) 提供训练集。给定输入向量和期望的目标输出向量； 3) 计算实际输出。计算隐含层、输出层各神经元输出； 4) 计算目标值与实际输出的偏差Ep； 5) 计算 6) 计算 7) 返回“2）”重复计算，直到误差满足要求为止。 * * 在使用BP算法时，应注意的几个问题： 1) 学习开始时，各隐含层连接权系数的初值应以设置较小的随机数较为适宜。 2) 采用S型激发函数时，由于输出层各神经元的输出只能趋于1或0，不能达到1或0。在设置各训练样本时，期望的输出分量dpk不能设置为1或0，以设置为0.9或0.1较为适宜。 3) 学习速率η的选择，在学习开始阶段，η选较大的值可以加快学习速度。学习接近优化区时，η值必须相当小，否则权系数将产生振荡而不收敛。 * 多层前向BP网络的优点： 1) 网络实质上实现了一个从输入到输出的映射功能，数学理论已证明它具有实现任何复杂非线性映射的功能。这使得它特别适合于求解内部机制复杂的问题； 2) 网络能通过学习带正确答案的实例集自动提取“合理的”求解规则，即具有自学习能力； * 3、神经网络的训练 在实际应用中尚未找到较好的网络构造方法，确定网络的结构和权值参数，来描述给定的映射或逼近一个未知的映射，只能通过学习来得到满足要求的网络模型。 * 神经网络训练的具体步骤: (1)获取训练样本集 获取训练样本集是训练神经网络的第一步，也是十分重要和关键的一步。它包括训练数据的收集、分析、选择和预处理等。 (2)选择网络类型与结构 神经网络的类型很多，需要根据任务的性质和要求来选择合适的网络类型。 (3)训练与测试 利用获取的训练样本对网络进行反复训练，直至得到合适的映射结果。 * (三）反馈神经网络 反馈网络，又称自联想记忆网络，其目的是为了设计一个网络，储存一组平衡点，使得当给网络一组初始值时，网络通过自行运行而最终收敛到这个设计的平衡点上。 反馈网络能够表现出非线性动力学系统的动态特性。它所具有的主要特性为以下两点： 第一、网络系统具有若干个稳定状态。当网络从某一初始状态开始运动，网络系统总可以收敛到某一个稳定的平衡状态； 第二、系统稳定的平衡状态可以通过设计网络的权值而被存储到网络中。 * 1、离散Hopfield网络 （1）网络的结构和工作方式 离散Hopfield网络是一个单层网络，有n个神经元节点，每个神经元的输出均接到其它神经元的输入。 各节点没有自反馈，每个节点都附有一个阀值。每个节点都可处于一种可能的状态（1或－1），即当该神经元所受的刺激超过其阀值时，神经元就处于一种状态（比如1），否则神经元就始终处于另一状态（比如－1）。 * * 整个网络有两种工作方式：即异步方式和同步方式。 1) 异步方式 每次只有一个神经元节点进行状态的调整计算，其他节点的状态均保持 不变。其调整次序可以随机选定，也可按规定次序进行。 2) 同步方式 所有神经元节点同时调整状态。 * * 2、连续Hopfield网络 连续Hopfield 网络也是单层的反馈网络。其实质上是一个连续的非线性动力学系统，它可以用一组非线性微分方程来描述。当给定初始状态，通过求解非线性微分方程组即可求得网络状态的运行轨迹。若系统是稳定的，则它最终可收敛到一个稳定状态。 * 第三部分 神经网络控制 一、人工神经网络基础知识 二、神经网络控制的结构 三、神经网络控制器的设计 * 1、生物神经元模型 人脑大约包含1012个神经元，分成约1000种类型，每个神经元大约与102～104个其他神经元相连接，形成极为错综复杂而又灵活多变的神经网络。每个神经元虽然都十分简单，但是如此大量的神经元之间、如此复杂的连接却可以演化出丰富多彩的