第四章 反馈网络 智能系统课件.pptVIP

第四章 反馈网络 4.1 霍普菲尔德网络模型 4.2 状态轨迹 4.3 离散型霍普菲尔德网络 4.4 离散型反馈网络的稳定点与稳定域 4.5 连续型霍普菲尔德网络 4.1 霍普菲尔德网络模型 4.2 状态轨迹 图4.4 三维空间中的状态轨迹 4.2.1 状态轨迹为稳定点 在一个反馈网络中，存在很多稳定点，根据不同情况，这些 稳定点可以分为： 4.2.2 状态轨迹为极限环 如果在某些参数的情况下，状态N(t)的轨迹是一个圆，或一个环，状态N(t)沿着环重复旋转，永不停止，此时的输出A(t)也出现周期变化，即出现振荡。 对于DHNN，轨迹变化可能在两种状态下来回跳动，其极限环为2。 如果在r种状态下循环变化，称其极限环为r。 霍普菲尔德网络是利用稳定吸引子来对信息进行储存的，利用从初始状态到稳定吸引子的运行过程来实现对信息的联想存取的。 通过对神经元之间的权和阀值的设计，要求单层的反馈网络达到下列目标： （1）网络系统能够达到稳定收敛 （2）网络的稳定点 （3）吸引域的设计 4.3 离散型霍普菲尔德网络 4.3.1 DHNN模型结构 4.3.2 联想记忆 联想记忆功能是DHNN的一个重要应用范围。要想实现联想记忆，反馈网络必须具有两个基本条件： ①网络能收敛到稳定的平衡状态，并以其作为样本的记忆信息； ②具有回忆能力，能够从某一残缺的信息回忆起所属的完整的记忆信息。 DHNN实现联想记忆的过程分为两个阶段：学习记忆阶段和联想回忆阶段。 反馈网络有两种基本的工作方式：串行异步和并行同步方式。 对于s个神经元的反馈网络DHNN有2s个状态的可能性。 4.3.3 DHNN的海布学习规则 在DHNN的网络训练过程中，运用的是海布（Hebb）调节规则：当神经元输入与输出节点的状态相同（即同时兴奋或抑制）时，从第j个到第i个神经元之间的连接强度则增强，否则则减弱。 4.3.4 影响记忆容量的因素 设计DHNN网络的目的，是希望通过所设计的权值矩阵W储存多个期望模式。从海布学习公式的推导过程中可以看出：当网络只记忆一个稳定模式时，该模式肯定被网络准确无误地记忆住。但当需要记忆的模式增多时，情况则发生了变化，主要表现在下面两点上： （1）权值移动 （2）交叉干扰 4.3.6 正交化的权值设计 这一方法的基本思想和出发点是为了满足下面四个要求： a) 保证系统在异步工作时的稳定性，即它的权值是对称的，满足, i, j = 1, 2, ..., s； b) 保证所有要求记忆的稳定平衡点都能收敛到自己； c) 使伪稳定点的数目尽可能的少； d) 使稳定点的吸引力尽可能的大。 4.4 离散型反馈网络的稳定点与稳定域 4.4.1 两个输入神经元的情况 4.4.2 网络输入神经元为三个时的情况分析 1) 当网络只记忆两个平衡点时，其收敛域应为由两点连线的垂直平分面所截成的两点所在的空间，垂直平分面上的点均收敛到对应的含有0的坐标点上，这些坐标点均是不稳定的平衡点。 2) 当网络记忆三个平衡点时，其收敛域为由三个点所组成的三角形平面上，从每条边上垂直截下的平面所组成的三个子空间。同样，三个垂直平面上的点均收敛到某个含0的坐标点上，这些坐标点均为不稳定的平衡点。 3) 当网络记忆四个以及多于四个平衡点时，其收敛域为空间上的八个象限，且有未被记忆的平衡点，在网络运行工作时，可能会以伪稳定点的形式出现。正交化设计方法的另一个优点则是使网络工作时，尽量少地出现伪稳定点。 4.4.3 小结 通过以上实验可以的出结论：对于具有r个输入神经元、输出函数为 反馈网络，当采用正交权值设计法，所设计的网络最多具有 个平衡点，其中， 个是稳定的平衡点，另外 个是不稳定的平衡点。每个稳定点的稳定域（吸引域）为以该点为中心，棱长为2的多边体（形），各平衡域的边界部分为不稳定平衡点的吸引域，不稳定的平衡点在两两稳定平衡点连线的中点上。 4.5 连续型霍普菲尔德网络 霍普菲尔德网络可以推广到输入和输出都取连续数值的情形。这时网络的基本结构不变，状态输出方程形式上也相同。若定义网络中第i个神经元的输入总和为ni，输出状态为，则网络的状态转移方程可写为： 4.5.1 对应于电子电路的网络结构 4.5.2 CHNN方程的解及稳定性分析 4.5.3 霍普菲尔德能量函数及其稳