神经网络课5-1教案 Chapter 5 Feedback Neural Network 研究生课件培训资料.ppt

Chapter 5 Feedback Neural Network;5.1 Hopfield neural network;5.1.1 Discrete Hopfield Neural Network;Hopfield network architecture 2;B. Working principle;wkk?0;5.1.2 Associative Memory;B. Hetero-association Memory;C. Learning rule;…;…;Hopfield network association and recall algorithm;Example 1;Network associative function taking into account the input with aberrance;Example 2;Association memory function;?;The iteration sequence is 3,4,1,2;Synchronous（parallel） computing;?;?;每个模式为12*10大小的黑白图象，120个像素，+1表示像素为黑，-1为白。 网络规模N=120，连接数为N2-N=12280个权。;先用外积法学习权值，然后用基本向量作为输入。经试验，所有基本向量都是网络的稳定状态。为检查其纠错能力，对基本向量加噪声污染，方法是每一像素都以0.25的概率翻转（-1改为1或反之）。测试结果如下。;5.1.3 Continuous Hopfield Neural Network;CHNN Model;If dui/dt=0 then u=?Wv+?. The formula is similar to the one of DHNN.;Definition of Energy Function;5.1.4 Computing for optimization;设 N=5， 即A、B、C、D、E分别代表5个城市。 任选一条路径：B?D?E?A?C ? B 则其总长：S=dBD+dDE+dEA+dAC+dCB;第二步：把问题的目标函数转化为能量函数,并将问题的变量对应于网络的状态。;2. 一次只能访问一个城市，即换位矩阵每列只有一个“1”。;4. 要求巡回路径最短，即能量函数的最小值对应于TSP的最短路径。;最后的网络能量函数为：;比较TSP能量函数与Hopfield标准能量函数，可以得到：;反馈网络用于优化计算和作为联想存储这两个问题是对偶的。 用于优化计算时W已知（以目标函数和约束条件建立系统的能量函数确定），目的是找E达到最小的稳定状态，即是优化计算问题的解； 作联想存储时则稳定状态是给定的（对应于待存向量），要通过学习找到合适的W。