智能控制第7章典型神经网络.pptVIP

图7-11BP神经网络结构网络的学习算法如下：01前向传播：计算网络的输出。02隐层神经元的输入为所有输入的加权之和：03隐层神经元的输出采用S函数激发：0421则输出层神经元的输出：网络第个输出与相应理想输出的误差为：01.第p个样本的误差性能指标函数为：02.其中N为网络输出层的个数。03.反向传播：采用梯度下降法，调整各层间的权值。权值的学习算法如下：输出层及隐层的连接权值学习算法为：0102其中隐层及输入层连接权值学习算法为：如果考虑上次权值对本次权值变化的影响，需要加入动量因子，此时的权值为：01其中为学习速率，为动量因子。027.2.7仿真实例：

?

取标准样本为3输入2输出样本，如表7-1所示。输入输出1001001000.500101表7-1训练样本BP网络模式识别程序包括网络训练程序chap7_2a.m和网络测试程序chap7_2b.m。7.3RBF神经网络径向基函数(RBF-RadialBasisFunction)神经网络是由J.Moody和C.Darken在80年代末提出的一种神经网络,它是具有单隐层的三层前馈网络。由于它模拟了人脑中局部调整、相互覆盖接收域（或称感受野-ReceptiveField）的神经网络结构，因此，RBF网络是一种局部逼近网络，已证明它能任意精度逼近任意连续函数。RBF网络的作用函数为高斯函数，是局部的，BP网络的作用函数为S函数，是全局的；1如何确定RBF网络隐层节点的中心及基宽度参数是一个困难的问题；2已证明RBF网络具有唯一最佳逼近的特性，且无局部极小。3RBF网络特点7.3.1RBF网络结构RBF网络是一种三层前向网络，由于输入到输出的映射是非线性的，而隐含层空间到输出空间的映射是线性的，从而可以大大加快学习速度并避免局部极小问题。图7-13RBF网络结构7.3.2RBF网络的逼近采用RBF网络逼近一对象的结构如图7-14所示。图7-14RBF神经网络逼近第7章典型神经网络7.1单神经元网络图7-1中为神经元的内部状态，为阈值，为输入信号，，为表示从单元到单元的连接权系数，为外部输入信号。单神经元模型可描述为：2神经元模型通常情况下，取01即02图7-1单神经元模型常用的神经元非线性特性有以下四种：阈值型图7-2阈值型函数（2）分段线性型图7-3分段线性函数（3）Sigmoid函数型图7-4Sigmoid函数1986年，Rumelhart等提出了误差反向传播神经网络，简称BP网络（BackPropagation），该网络是一种单向传播的多层前向网络。误差反向传播的BP算法简称BP算法，其基本思想是梯度下降法。它采用梯度搜索技术，以期使网络的实际输出值与期望输出值的误差均方值为最小。7.2BP神经网络是一种多层网络，包括输入层、隐含层和输出层；01层与层之间采用全互连方式，同一层神经元之间不连接；02权值通过δ学习算法进行调节；03神经元激发函数为S函数；04学习算法由正向传播和反向传播组成；05层与层的连接是单向的，信息的传播是双向的。067.2.1BP网络特点7.2.2BP网络结构含一个隐含层的BP网络结构如图7-5所示，图中为输入层神经元，为隐层神经元，为输出层神经元。图7-5BP神经网络结构BP网络的逼近BP网络逼近的结构如图7-6所示，图中k为网络的迭代步骤，u(k)和y(k)为逼近器的输入。BP为网络逼近器，y(k)为被控对象实际输出，yn(k)为BP的输出。将系统输出y(k)及输入u(k)的值作为逼近器BP的输入，将系统输出与网络输出的误差作为逼近器的调整信号。12图7-6BP神经网络逼近用于逼近的BP网络如图7-7所示。图7-7用于逼近的BP网络。BP算法的学习过程由正向传播和反向传播组成。在正向传播过程中，输入信息从输入层经隐层逐层处理，并传向输出层，每层神经元（节点）的状态只影响下一层神经元的状态。如果在输出层不能得到期望的输出，则转至反向传播，将误差信号（理想输出与实际输出之差）按联接通路反向计算，由梯度下降法调整各层神经元的权值，使误差信号减小。前向传播：计算网络的输出。01隐层神经元的输入为所有