第五章 神经网络控制.ppt

第五章 神经网络控制; 第五章 神经网络控制; 5.1 概述; 人工神经网络试图通过模拟人脑神经网络处理信息的方式，从另一角度，来获得具有人脑那样的信息处理能力。常称之为神经网络(Neural Network, NN)。; 神经网络的基本属性; 神经网络与计算机相比的特点; 神经网络在控制系统中的作用; 神经网络在控制系统中的作用; 5.2 神经网络的基本概念; 5.2.1 神经网络的基本原理;(2) 单元集合的激活状态 系统在t时刻的状态用一个N维实矢量I(t)表示，又称为处理单元集上的激活模式。每一分量Ii(t)表示对应单元在t时刻的激活值。系统处理过程实际上就是单元集上的激活模式随时间变化的过程。;(3) 单元的输出函数 该输出函数将当前激活值Ii(t)映射成一个输出信号。;(4) 单元之间连接模式 通常情况下认为，每个单元都向它的连接单元提供了一个可加入性输入。因此，一个单元的总输入就是与它输入连接的各单元的输出加权和，只要确定了系统的各连接的权值，就能表示出整个连接模式;(5) 学习规则 在神经网络中，改变处理过程或知识结构，就需修改相互连接模式。实际上，一切修改都可以归结为通过学习规则修改连接强度。所有学习规则都是从Hebb学习规则派生出来的; Hebb学习规则一般形式如下： 其中，g是单元i的激活值Ii(t)与教师输入ti(t)的函数，h是单元j的输出值yj(t)与连接强度Wij的函数。; 5.2.2 神经元模型;; :从其他神经元传来的输入信号 :表示从神经元j到i的连接权值 :阈值 :激发函数或作用函数 ;常用的激活函数有如下几种： （1）阈值型函数;0;（2）饱和型函数;（3）双曲函数;（4）S型函数;（5）高斯函数; 5.2.3 神经网络模型;又称前向网络（Feedforward NN） 神经元分层排列，有输入层、隐层和输出层，每一层的神经元只接受前一层神经元的输入。大部分前馈网络都是学习网络，常用的有感知器网络和BP网络。;;若总结点（神经元）数为N，则每个节点有N个输入和一个输出，即所有节点都是一样的，它们之间都可以相互连接。 Hopfield神经网络是典型的反馈型网络。;反馈型神经网络; 5.2.4 神经网络的学习方法; 要使神经网络具有学习能力，就是使神经网络的知识结构变化，目前主要是指通过一定的学习算法实现对权值的调整，使其达到具有记忆、识别、分类、信息处理和问题优化求解等功能。; Hebb学习规则（无教师）; Delta学习规则（有教师）; Delta学习规则（有教师）; 5.3 前馈网络; 5.3.1 感知器（perceptron）;;; 由于按不同特征的分类是相互独立的，因而可以取出其中的一个神经元讨论。令x0=1, -? = ?0，则感知器的输入输出关系为： 当其输入的加权和大于或等于阈值时，输出为1，否则为-1。; 感知器的一种学习算法： （1）随机地给定一组连接权?i(0)（较小的非零值），这里?i(k)为k时刻第i个输入上的加权（1≤i≤n），?0(k)为k时刻的阈值 （2）输入一组样本X=(x1, x2, …, xn)和期望的输出d，如果X属于A类，则d=1，否则d=-1。 ; （3）计算感知器实际输出： （4）按下式修正权值：; （5）选取另外一组样本，重复上述（2）~（4）的过程，直到权值对一切样本均稳定不变为止，学习过程结束。 感知器的学习算法收敛的条件是，要求函数是线性可分的。 ;;多层感知器网络; 5.3.2 BP网络（Back-Propagation）;; BP算法的基本思想是最小二乘算法。它采用梯度搜索技术，以期是网络的实际输出值与期望输出值的误差均方值为最小。 BP算法的学习过程由正向传播和反向传播组成。在正向传播过程 中，输入;信息从输入层经隐层逐层处理，并传向输出层，每层神经元（节点）的状态只影响下一层神经元的状态。如果在输出层不能得到期望的输出，则反向传播，将误差信号沿原来的连接通路返回，通过修改各层神经元的权值，使得误差信号最小。;