第13篇联想学习.ppt

13.4 例 题-演 练 P 13.2 设学习速度为0.4，用instar规则训练图13-8中的橘子识别网络。使用相同的学习序列，需要多少步网络才能根据测量值识别一个格子? 解 训练序列，一直重复直到网络视觉系统失效(P0＝0)时也能对橘子的测量值(P：[1 -1 -1]T )做出响应。 用MATALB代码求解： w0 = 3;W = [0 0 0]; p0 = 0; p = [1;-1;-1]; a = hardlim(w0*p0+W*p-2), W = W + 0.4*a*(p-W) %1 a = 0 W = 0 0 0 p0 = 1;a = hardlim(w0*p0+W*p-2),W = W + 0.4*a*(p-W) % 2 a = 1 W = 0.4000 -0.4000 -0.4000 p0 = 0;a = hardlim(w0*p0+W*p-2),W = W + 0.4*a*(p-W) % 3 a = 0 W = 0.4000 -0.4000 -0.4000 p0 = 1;a = hardlim(w0*p0+W*p-2),W = W + 0.4*a*(p-W) % 4 a = 1 W = 0.6400 -0.6400 -0.6400 p0 = 0;a = hardlim(w0*p0+W*p-2),W = W + 0.4*a*(p-W) % 5 a = 0 W = 0.6400 -0.6400 -0.6400 p0 = 1;a = hardlim(w0*p0+W*p-2),W = W + 0.4*a*(p-W) % 6 a = 1 W = 0.7840 -0.7840 -0.7840 a = 1 W = 0.8704 -0.8704 -0.8704 % 7 a = 1 W = 0.9222 -0.9222 -0.9222 % 8 a = 1 W = 0.9533 -0.9533 -0.9533 % 9 a = 1 W = 0.9720 -0.9720 -0.9720 % 10 . . . . . . a = 1 W = 0.9998 -0.9998 -0.9998 %18 13.4 课后要求 自行学习： Page175的 P13.3 及Page277中的 P13.5 13 第13章 联想学习 13.1 目的： 本章中，介绍的一组简单规则，允许无监督学习． 这使网络具有这样的能力： 在经常一同出现的模式之间学习其中关联。 一旦学习成功，关联能力将使网络能执行有用的任务，如模式识别和回忆。 尽管本章中的规则很简单，但它们是构成第14-16章中强大神经网络的基础。 刺激 响应 联想 联想是指系统中输入和输出之间的任何联系，其中当模式A输入到系统时，将产生模式B的反应。 当两个模式关联时，输入模式被称为刺激(stimlus). 类似地，输出模式被称为响应(response)。 13.2理论和实例 13.2.1 简单联想网络 13.2.1 简单联想网络 无条件刺激 条件刺激 一类输入集称为无条件刺激，这类似于巴甫洛夫实验中给狗的食物。 另一类输入集称为条件刺激，类似于巴甫洛夫实验中的铃声。 一开始狗只在有食物时才分泌唾液，这是一种无需学习的先天的特征。然而当铃声与食物重复地同时出现时，狗会在仅有铃声的条件下分泌唾液，而不论是否有食物。 13.2.1 简单联想网络 13.2.1 无监督的Hebb规则 一般来说，当几个事件同时发生的时候人和动物倾向于将它们联系起来。 Hebb规则表认为： 当香蕉的气味刺激与香蕉概念响应(由其他刺激引起，如香蕉形状)同时产生的时候，网络将加强它们之间的联系； 以后，当只有香蕉气味刺激时也能产生香蕉概念的响应。 13.2.1 无监督的Hebb规则 局部学习 注意到上式中只用到了包含被更新权值的层的信号。满足这个条件规则被称为局部学习规则。这与BP算法不同，BP算法中要将敏感度从最后一层反向传播。本章中介绍的规则都是局部学习规则 训练序列 对所有的无监督规则，学习是由对一个按时间的输人序