第3章神经网络概念.ppt

调节　的原则为：若 与 两个神经元同时处于兴奋状态，则它们之间的连接加强，即　 对于一给定的需记忆的样本向量　　　 ，如果 的状态值为＋1或－1，则其连接权系数的学习可以利用“外积规则”即 对于单端情况，即神经元的活跃值为1或0时，则权系数的学习规则为 具体的计算步骤可归结为：　1）置　　　；　2）输入　　　　　　 ，对所有连续对　　　的权系数分别按外积规则或单端状况计算。 　一旦学习完成，Hopfield网络就可以用作联想记忆　即对于某一带噪声的输入模式，Hopfield网络将收敛于与学习样本最相近的稳态模式。 学习规则 学习算法的基本公式为： 即计算每一个神经元节点的实际激活值　，并与期望状态　进行比较，若不满足要求，则将二者的误差值的一小部分作为调整量，调整具有激活输入（状态为1的输入端）的节点的权值或阀值；若满足要求，则相应的权值或阀值不需修整。 2、Hopfield神经网络的联想记忆 前面已经提到，能量井的存在为实现神经网络联想记忆提供了保证。同样，联想记忆功能也是DHNN的一个重要应用特征。要实现联想记忆，神经网络必须具备两个基本条件： 能够收敛于稳定状态，利用此稳态来记忆样本信息； 具有回忆能力，能够从某一局部输入信息回忆起与其相关的相似记忆，或者由等一残缺的信息回忆起比较完整的记忆。 DHNN实现联想记忆分为两个阶段，即学习记忆阶段和联记回忆阶段： 学习记忆阶段——实质上是设计能量井的分布，对于要记忆的样本信息，通过一定的学习规则训练网络，确定一组合适的权值的阀值，使网络具有期望的稳态。 联记回忆阶段——当给定网络某一输入模式的情况下，网络能够通过自身的动力学状态演化过程达到与其在海明距离意义上最近的稳态，从而实现自联想或异联想回忆。 DHNN用于联想记忆有两个突出特点，即： 记忆是分布式的，联想是动态的。 这与人脑的联想记忆实现机理相类似。利用网络能量井来存储记忆样本，按照反馈动力学活动规律唤起记忆，显示出DHNN联想记忆实现方法的重要价值。 五　神经网络控制基础 1. 神经网络控制 神经网络控制的优越性： 3）神经网络是本质的非线性系统。它可以实现任何非线性映射。而在非线性系统的控制中有很大前途。  4）神经网络具有很强的信息综合能力。它能够同时处理大量不同类型的输入。利用此功能人们可以有效地进行信息的融合。 5）神经网络的硬件实现愈趋方便。大规模集成电路技术的发展为神经网络的硬件实现提供了技术手段。 神经网络控制系统一般分为两大类： 神经网络控制：它是以神经网络为基础而形成的独立智能控制系统； 混合神经网络控制：利用神经网络学习和优化能力来改善传统控制的现代控制方法；如自适应神经控制等。 2、神经网络控制器分类 （6）混合控制系统　 由神经网络技术与模糊控制、专家系统等结合形成的一种具有很强学习能力的智能控制系统，它集人工智能各分支的优点，使系统同时具有学习、推理和决策能力成为智能控制的最新发展方向。 六　神经网络控制的学习机制 神经网络辨识器的样本信息是已知的，而神经控制器的样本信息应该是系统的最佳控制量，一般说来往往预先是无法知道的，尤其在被控系统模型未知的情况下。 问题的提出 解决方法 设计出一个神经网络去代替传统控制器，并使得神经网络控制器具备一定的学习机制。 神经网络的学习就是寻找一种有效的途径进行网络连接权阵或网络结构的修改，从而使网络控制器输出的控制信号能够保证系统输出跟随系统的期望输出。 不同于神经网络辨识器的学习规则，由于期望输出预先无法知道，因此神经网络控制器唯一能利用的信息就是系统的期望输出　和系统实际输出 。 为克服离线学习法的困难，首先应该要考虑在上如何增强网络控制器的学习功能，保证整个控制器具备自适应、自学习的能力。 2、在线学习 　神经网络 非线性系统 此网络结构学习的目的是找出一个最优控制量　使得系统输入　 趋于期望输出　 ，权阵的调整应该使得　　　的误差减少最快。 不失一般性，假设非线性系统模型为 选用控制器网络为多层感知器神经元网络。取最优性能指标函数为 则权阵的学习则可以通过梯度寻优法来求得，即 那么，如果系统模型已知，则　　 可以求得，而 则利用广义的Delta规则来计算。 3、反馈误差学习法　 反馈误差学习法的控制系统结构通常有前馈控制器和反馈控制器两部分组成，把反馈控制的输出作为网络控制器的训练误差信号，其结构图如下所示： 固定增益控制器 非线性系统 神经网络 神经网络控制器是其前馈控制器，引入前馈补偿控制的目的是加快