智能控制理论与方法第四章 基发于神经元网络的智能控制系统.ppt

智能控制理论与方法;第4章 基于神经元网络的智能控制系统;4.1 概述 (1);帅蔷嫩败傣殴恼慕岛捎秆扣秉乓宰饲舌嫡非匿止追技茬涣旬暖繁它挥惩逃智能控制理论与方法第四章 基于神经元网络的智能控制系统智能控制理论与方法第四章 基于神经元网络的智能控制系统;概述 (2);概述 (3);概述 (4);;概述 (5);1949年Donala U.Hebb（心理学家）论著《The Organization of Behavior（行为自组织）》，提出突触联系强度可变的假设，认为学习的过程最终发生在神经元之间的突触部位，突触的联系强度随着突触前后神经元的活动而变化。 ——赫布规则 多用于自组织网络的学习，即：若两个神经元输出兴奋，则它们之间的连接权加强，反之减少。 赫布规则意义（提出了变化的概念） 提出了一个神经网络里信息是储藏在突触连接权中 连接权的学习律是正比于两个被连接神经细胞的活动状态值的乘积 细胞的互相连接???结构是他们权的改变创造出来的;1957年Frank Rosenblatt定义了一个神经网络结构，称为感知器(Perceptron) ，采用 ?规则学习。 意义：第一次把神经网络研究从纯理论的探讨推向工程实现，在IBM704计算机上进行了模拟，证明了该模型有能力通过调整权的学习达到正确分类的结果。掀起了神经网络研究高潮。;1969，M. Minsky和S.Papert发表了《Perceptrons》的论著，指出感知器仅能做线性划分。对于非线性或其他分类会遇到很大困难。一个简单的XOR问题的例子就证明了这一点。——神经网络研究一度达到低潮。原因还有：计算机不够发达、VLSI还没出现、而人工智能和专家系统正处于发展高潮。 ;1982年John J. Hopfield（物理学家）提出了全连接网络，离散的神经网络模型。——全新的具有完整理论基础的神经网络模型。基本思想是对于一个给定的神经网络，对于一个能量函数，这个能量函数是正比于每一个神经元的活动值和神经元之间的连接权。而活动值的改变算法是向能量函数减少的方向进行，一直达到一个极小值为止。证明了网络可达到稳定的离散和连续两种情况。3年后ATT等做出了半导体芯片。——神经网络复兴时期开始;1986年美国的一个平行计算研究小组提出了前项反馈神经网络的Back Propagation（BP）学习算法。成为当今应用最广泛的方法之一。该方法克服了感知器非线性不可分类问题，给神经网络研究带来了新的希望。; 1990年汉森(L.K. Hansen)和萨拉蒙(P. Salamon)提出了神经网络集成(neural network ensemble)方法。他们证明：可以简单地通过训练多个神经网络并将其结果进行拟合，显著地提高神经网络系统的泛化能力。神经网络集成可以定义为用有限个神经网络对同一个问题进行学习，集成在某输入示例下的输出由构成集成的各神经网络在该示例下的输出共同决定。 ;概述（6）;再认识与应用研究(1991~) 问题： 1）应用面还不够宽 2）结果不够精确 3）存在可信度的问题 研究： 1）开发现有模型的应用，并在应用中根据实际运行情况对模型、算法加以改造，以提高网络的训练速度和运行的准确度。 2）希望在理论上寻找新的突破，建立新的专用/通用模型和算法。 3）进一步对生物神经系统进行研究，不断地丰富对人脑的认识。;4.2 神经元网络的基本原理和结构;细胞体：由细胞核、细胞质和细胞膜组成。 轴突：由细胞体向外伸出的一条分支，称为轴突，即神经纤维。轴突相当于细胞的传输电缆，其端部的许多神经末梢为信号的输出端，用以送出神经激励。 树突：由细胞体向外伸出的其它许多较短的分支，称为树突。它相当于神经细胞的输入端，用于接收来自其它神经细胞的输入激励。 突触：细胞与细胞之间通过轴突与树突相互连接，其接口称为突触。每个细胞约有103-104个突触。 膜电位：细胞膜内外之间有电势差，约为70-100mV，膜内为负，膜外为正。;4.2.2 神经元的模型;;; 激活函数f(x) ——执行对该神经元所获得的网络输入的变换，也可以称为激励函数、活化函数：o=f(net);b、非线性斜面函数（Ramp Function）;非线性斜面函数（Ramp Function）;c、阈值函数（Threshold Function）;阈值函数（Threshold Function）;d、S形函数;S形函数;神经元的一般模型框架（控制论角度）;式中 aij 和bik 为权系数，i,j =1,2,…,n, k= 1,2,…m. n 个加法器可以写成向量形式：;▲ 线性动态系统;▲静态非线性系统: g(.)可从线性动态系统输出x给出模型的输出.;非线性函数分类： （1）可微