第14章 竞争网络.ppt

图14-26中的左图表示 在第一次迭代之后的更新状况，右图表示算法收敛之后的权值。右图也指明了输入空间如何被分类。那些归入类1的区域用浅灰色表示，归入类2的区域用深灰色表示。 2.改进的LVQ网络（ LVQ 2） 上面讨论的LVQ网络对许多问题都解决的较好，但却存在两种局限。首先，与竞争层的情况一样，有时一个LVQ网络的隐含神经元可能有使其从竞争获胜停止下来的初始权值。结果就是造成了一个无用的死神经元。这个问题用“良心”机制解决，这是前面在竞争层就已讨论过的技术。 其次，由于有时初始向量的排列，在取某些初始向量的时候一个神经元的权值向量不得不经过一个它不代表的类的区域以到达它所代表的区域。由于这样的神经元的权值将被它必须经过的区域内的向量排斥，它可能无法通过，以至可能对吸引它的区域不能进行正确分类。这个问题通常通过改变Kohonen规则来解决。 如果隐含层中的获胜神经元对当前的输入不正确地归类，我们将它的权值向量从输入向量移开，正如以前所做的那样。同时也调整与输入向量最接近的且归类正确神经元的权值。使神经元的权值向输入向量移近。 LVQ2 当网络正确地分类一种输入向量时，只有一个神经元的权值被移向输入向量。然而如果输入向量被错误地归类，两个神经元的权值都将改变，一个权值向量被移开输入向量，另一个被移向输入向量。这种算法就是LVQ2。 等式（14.20）与等式（14.19）定义了同样的值，只是基于神经元之间的距离 图14-14展示了等式（14.20）或式（14.19）所定义的权值。每个神经元i都标以权值 ，即从它到神经元j的权值。 加强中心/抑制周围 加强中心/抑制周围常被用来描述如下神经元之间的一种联结方式：每个神经元加强自身（中心），并且同时抑制周围的神经元。 这是生物学竞争层中的一种天然的近似。在生物学中，大神经元不仅加强自己，同时也加强接近它的那些神经元。一般情况下，随着神经元之间的距离增加，从加强到抑制的转变是平滑地出现的。 墨西哥草帽函数 这种转变见图14-15中的左图。这是一种将神经元之间的距离与连接他们的权值相联系起来的函数。那些近似的神经元提供互相加强的连接，并且激励的幅度随着距离的增加而降低。超过一定距离，神经元将呈现一种抑制性联结，并且抑制随着距离的增加而增加。因为这个函数的形状，它被称为墨西哥草帽函数。 图14-15中的右图是墨西哥草帽（加强中心/抑制周围）函数的一个二维图示，每个神经元i都被标以符号及表示它到神经元j的权值的相对强度 。 生物竞争系统，除了在加强中心/抑制周围的联结模式下，从激励区域到抑制区域的转变是渐变以外，还是一种相对于Hamming网络的“胜者全得”竞争较为弱的竞争形式。 生物网络通常不是单个神经元（竞争获胜者）活跃，而是在最为活跃的神经元的周围有活跃区。这部分是由于加强中心/抑制周围的联结方式以及非线性的反馈联结引起的。 14.2.4 自组织特征图 SOFM网络 邻域 为了模仿生物学系统的活跃区，并且不必实现非线性的加强中心/抑制周围的反馈联结， Kohonen作了如下的简化设计。自组织特征图（SOFM）网络首先使用竞争层所用的同一过程来决出获胜的神经元 ；然后，在获胜神经元周围一定范围内的所有神经元的权值向量用Kohonen规则更新， 其中邻域 包含所有落在以获胜神经元 为中心，半径为d的所有神经元的下标： 当向量p被提交，获胜神经元的权值和其邻域内的神经元的将向p移动。结果是多次提交结束之后，邻域内的神经元将通过学习而拥有彼此相像的学习向量。 为了展示邻域的概念，请考虑图14-16种的两幅图。左边的说明围绕神经元13，半径为1 的二维邻域；右边的图表示半径为2的邻域。 这两个邻域的定义如下： 我们必须提及的是SOFM中的神经元不必排列成二维的形式，一维或者三维甚至多维的排列都是可能的。对于一维的SOFM，神经元在半径为1时只有2个邻域（当该神经元位于线之端点时只有一个邻域）。当然也可以用不同的方法来定义距离，例如Kohonen为了更有效地实现曾建议使用矩形或六边形的邻域。神经网络的性能对邻域的确切形状并不敏感。 现在我们演示SOFM神经网络是如何工作的。图14-17表示一个特征图以及其神经元的二维拓扑结构。 图14-18展示了特征图的初始权值向量，每个三元素权值向量都用球体上的一个点表示（权值已经规格化，都能够落在球面之上）。邻域内的神经元都用线连接起来，因而可以看到拓扑结构在输入空间中是如何安排的。 图14-19展示了一个球面上的方形区域。我们将