人工神经网络第七章课件.pptVIP

第7章 循环网络;第7章 循环网络;第7章 循环网络;第7章 循环网络;7.1 循环网络的组织 ;7.1 循环网络的组织 ;7.1 循环网络的组织;最基本的Hopfield网 ;最基本的Hopfield网;最基本的Hopfield网;最基本的Hopfield网;Date;由式7一3知，对任意的i和j(i≠j),;最基本的Hopfield网; 网络的异步工作方式 网络的异步工作方式是一种串行方式。网络运行时每次只有一个神经元i按下式进行状态的调整计算，其他神经元的状态均保持不变，即; 神经元状态的调整次序可以按某种规定的次序进行，也可以随机选定。每次神经元在调整状态时，根据其当前净输入值的正负决定下一时刻的状态，因此其状态可能会发生变化，也可能保持原状。下次调整其他神经元状态时，本次的调整结果即在下一个神经元的净输入中发挥作用。 网络的同步工作方式 网络的同步工作方式是一种并行方式，所???神经元同时调整状态，即 xj(t+1)＝sgn[netj(t)] j＝1，2,…,n;7.2 稳定性分析 ; 反馈网络是一种能存储若干个预先设置的稳定点(状态)的网络。运行时，当向该网络作用一个起原始推动作用的初始输入模式后，网络便将其输出反馈回来作为下次的输入。经若干次循环(迭代)之后，在网络结构满足一定条件的前提下，网络最终将会稳定在某一预先设定的稳定点。 设X(0)为网络的初始激活向量，它仅在初始瞬间t＝0时作用于网络，起原始推动作用。X(0)移去之后，网络处于自激状态，即由反馈回来的向量X(1)作为下一次的输入取而代之。 反馈网络作为非线性动力学系统，具有丰富的动态特性，如稳定性、有限环状态和混沌(chaos)状态等。; 1．网络的稳定性 由网络工作状态的分析可知，DHNN网实质上是一个离散的非线性动力学系统。网络从初态X(0)开始，若能经有限次递归后， 其状态不再发生变化，即X(t+1)＝X(t)， 则称该网络是稳定的;如果网络是稳定的，它可以从任一初态收敛到一个稳态， 如图6．2(a)所示；若网络是不稳定的，由于DHNN网每个节点的状态只有1和-l 两种情况，网络不可能出现无限发散的情况，而只可能出现限幅的自持振荡，这种网络称为有限环网络，图6．2(b)给出了它的相图。如果网络状态的轨迹在某个确定的范围内变迁，但既不重复也不停止，状态变化为无穷多个，轨迹也不发散到无穷远，这种现象称为混沌，其相图如图6．2(c)所示。对于DHNN网，由于网络的状态是有限的，因此不可能出现混沌现象。; 网络的稳定性与下面将要介绍的能量函数密切相关，利用网络的能量函数可实现优化求解功能。网络的能量函数在网络状态按一定规则变化时，能自动趋向能量的极小点。如果把一个待求解问题的目标函数以网络能量函数的形式表达出来，当能量函数趋于最小时，对应的网络状态就是问题的最优解。 网络的初态可视为问题的初始解，而网络从初态向稳态的收敛过程便是优化计算过程，这种寻优搜索是在网络演变 过程中自动完成的。; 2．吸引子与能量函数 网络达到稳定时的状态X，称为网络的吸引子。一个动力学系统的最终行为是由它的吸引子决定的，吸引子的存在为信息的分布存储记忆和神经优化计算提供了基础。如果把吸引子视为问题的解，那么从初态朝吸引子演变的过程便是求解计算的过程。若把需记忆的样本信息存储于网络不同的吸引子，当输入含有部分记忆信息的样本时，网络的演变过程便是从部分信息寻找全部信息，即联想回忆的过程。 ;下面给出DHNN网吸引子的定义和定理。 定义7．1 若网络的状态X满足X＝f(WX— T)，则称X为网络的吸引子。 能使网络稳定在同一吸引子的所有初态的集合，称为该吸引子的吸引域。下面给出关于吸引域的两个定义。 定义7．2 若Xa是吸引子，对于异步方式，若存在一个调整次序，使网络可以从状态X演变到Xa，则称X弱吸引到Xa；若对于任意调整次序，网络都可以从状态X演变到 Xa，则称X强吸引到Xa。 ; 定义7．3 若对某些X，有X弱吸引到吸引子Xa，则称这些X的集合为Xa的弱吸引域；若对某些X，有X强吸引到吸引子Xa，则称这些X的集合为Xa的强吸引域。 欲使反馈网络具有联想能力，每个吸引子都应该具有一定的吸引域。只有这样，对于带有一定噪声或缺损的初始样本，网络才能经过动态演变而稳定到