第四章 反馈神经网络模型.pptVIP

BAM模型的学习规则推导 当网络存储模式对(Xi,Yi)(i=1,2,…,p)集合时，可将存储模式对的结论直接推广，得学习公式 其中， 为大于0的常数，为方便计，一般取 。 显然可以看出 令权值矩阵W=W1，则W2=WT BAM学习过程举例 联想对到双极向量对的转换 BAM学习过程举例 计算权值矩阵 BAM学习过程举例 可以验证 同理可验证（ X2,Y2 ）、 （X3,Y3）都是网络的不动点。 BAM学习过程举例 假设X=（11101） 即网络可以收敛到Y1 。 BAM模型的存储能力 由于要将不同的联想模式对（Ai，Bi）收敛到局部能量极小点上，所以所要学习的模式对或联想个数k必须小于域FA和域FB中神经元的个数，即： k＜min (n,m) BAM模型记忆模式擦除 要从双向联想存储器中擦去某个记忆模式，例如要去掉模式对(Ai, Bi)，只要在权值矩阵W中减去该联想对的双极伴随矩阵，即： BAM模型能量函数 可定义BAM网络的能量函数为： 对非零阈值的清况，可定义能量函数 域A和域B各节点阈值。 BAM模型能量函数 定理：对于BAM网络状态的任何改变，网络能量E单调下降。 本文来自网络，请不要使用盗版文档，尊重作者的辛苦劳动，谢谢 G 我爱朱丹老婆 中华人民共和国 20100808080808080808080808080808080808080808080808080808080808080 Lvdd我爱你ZDLP * * 联想可分为两种形式：自联想和异联想。由某种代表事物（或该事物的主要特征，也可能是部分主要特征）联想到其所表示的实际事物，称自联想；由一种（或该事物的主要特征，也可能是部分主要特征）联想到与其密切相关的另一事物，称异联想。 * * * * * 此网络能够实现异联想问题。假设A域输入初始模式X(0)，则X(0)通过W1加权而后至B域，通过B域神经元处理得到输出Y(0) 能量函数 能量函数展现的是神经网络系统集团计算能力而不是单个神经元的计算能力。能量的概念也可以推广到其它类型的神经网络模型中。在能量概念的基础上，神经计算可以描述为在能量曲面上的一条轨迹。每种状态对应于一个能量值。在状态空间中，所有能量值构成能量曲面。可以把这个曲面比喻成具有许多高峰及低估的群山。这样，网络的运行过程就可理解为一个物体在曲面上的滑动，滑动的方向总是沿着能量降低的方向进行，直到滑到某个低估为止。 能量函数收敛性证明 定理1 假设网络状态按异步方式更新，则对于网络状态的任何改变，网络能量E单调下降。 证明： 能量函数收敛性证明 定理2 假设网络状态按同步方式更新，则在网络权矩阵对程且非负定的条件下，对于网络状态的任何改变，网络能量E单调下降。 Hopfield网络解决TSP问题 （1）TSP（Traveling Saleman Problem)问题描述：对于有n个城市的集合，找出一条最短的经过每个城市各一次（仅一次）且回到出发地的路径。 （2）简单数学分析：n个城市间存在n!/(2n)条可能路径，路径总数随n按指数规律增长，对于较大的n，先找出所有可能的路径，然后再对其进行比较以得到最短路径的方法难以在计算机上以较短的时间得到答案。 （3）神经网络方法：先把问题转化成适合于神经网络处理的形式。用n*n个神经元构成网络，用神经元的状态来表示某一个城市在某一条有效路径中的位置。 dxy——城市X与城市Y之间的距离； yxi——城市X的第i个神经元的状态： 1 城市X在第i个被访问 yxi= 0 城市X不在第i个被访问 wxi,yj—城市X的第i个神经元到城市Y的第j个神经元的连接权。 Hopfield网络解决TSP问题 例如：四个城市X、Y、Z、W。下表输出状态矩阵可唯一地确定对所有城市的访问次序。 城市名 访问顺序标示 1 2 3 4 X 0 1 0 0 Y 0 0 0 1 Z 1 0 0 0 W 0 0 1 0 Hopfield网络解决TSP问题 为了解决TSP问题，必须构成这样的网络：在网络运行时，计算能量降低。网络稳定后其输出状态代表城市被访问的次序，即构成上表所示的换位阵。网络能量的极小点对应于最佳（或较佳）路径的形成，此时由输出换位阵能得到较佳路径。 解决问题最关键的一步，是构成合适的能量函数。 Hopfield网络解决TSP问题 网络的能量函数 其中A0为常数。E1保证当输出状态矩阵的每一行不多于一个1时，即所有的城市最多只被访问一次时取得极小值0。 路径的有效性。 为保证输出构成换位阵，因此有行约束条件 网络的能量函数 其中B0为常数。E