自精典课件组织神经网络.ppt

第四章自组织神经网络（SONN) SONN概述 SONN概述 竞争学习原理 竞争学习原理 竞争学习原理 竞争学习原理 竞争学习原理 竞争学习网络特征 竞争学习网络特征 竞争学习网络特征 自组织特征映射（SOFM）模型 自组织特征映射（SOFM）模型 自组织特征映射（SOFM）模型 自组织特征映射（SOFM）模型 自组织特征映射（SOFM）模型 自组织特征映射（SOFM）模型 自组织特征映射（SOFM）模型 自组织特征映射（SOFM）模型 自组织特征映射（SOFM）模型 自产生与自组织神经网络（SCONN） 自产生与自组织神经网络（SCONN） 自产生与自组织神经网络（SCONN） 对向传播网络（CPN） 对向传播网络（CPN） 对向传播网络（CPN） 对向传播网络（CPN） 对向传播网络（CPN） 对向传播网络（CPN） 自适应共振理论（ART）模型 自适应共振理论（ART）模型 ART－1的基本原理 ART－1的基本原理 ART－1的基本原理 ART－1的基本原理 ART－1的基本原理 ART－1的基本原理 ART－1的基本原理 2/3匹配规则 2/3匹配规则 ART-1的学习算法 ART-1的学习算法 ART-1的学习算法 ART—1的结构原理如图所示，模型分为两个子系统：注意子系统和取向子系统。前者处理已学习的模式，也就是对已经熟悉的模式建立起精确的内部表示，后者处理新出现的模式，当不熟悉的事件出现时，它回 调注意子系统，在内部建立 新的内部编码来表示不熟悉 的事件。 在注意子系统中有两个非几 何意义上的层次来处理接受 到的信息，即F1和F2，短期 记忆。F1和F2之间的连接通 道为长期记忆。该长期记忆 又分为自上而下和自下而上 两类，它们都用相应的权值 来表示。注意子系统中的增 益控制使得F1可以对自上而 下的引发模式和自下而上的输入模式加以区分。 (1)ART-1的工作过程: 注意子系统的F1接受外界的输入模式I，I被转换成F1中的单元工作模式X，即单元的状态(神经元的活跃值)，有 模式X被短期记忆(STM)在F1中。 在X中，足够活跃的节点(处于激活的单元)将产生F1的输出，激活输出S S模式经过单向连接权LTM1(wij)输送到F2中，从而建立起F2输入模式T 在F2中，T经过F2的神经元之间的相互作用，构成一个对输入模式T的比较增强的过程。相互作用的结果是在F2中产生一个短期记忆(STM)的模式Y(对比增强模式)，也即是F2中神经元的状态： 该对比增强的过程就是在F2中选择一个与当前输入相对应的输出值为最大的神经元的过程。所选择的神经元是用来表示活跃模式的唯一的神经元(即能对输入模式作出响应的神经元)。 上述自下而上的过程如图所示。 自下而上过程 由F2中产生的模式Y得到一个自上而下的激励信号模式U，只有Y中足够活跃的神经元才能产生U，这也是由阈值函数控制的： F2的输出模式经单向连接权LTM2(wji)被输送到F1中，成为另一输入V，如右图所示。 自上而下过程 这祥F1中就有两个输入模式V和I，V和I相互结合产生出模式X*： X*与仅由I产生的X是不相同 的。特别地,F1要进行V和I之间的 匹配，匹配的结果用来确定进一 步的学习和作用过程。 当输入模式I在产生X的同 时，X对调整子系统A具有抑制作 用。现在由F2输入的模式V将可 能使这种对A的抑制作用发生改 变。当在F1中，V和I的非匹配程 度增加时，从F1到A的抑制就相 应减小。若匹配程度降低到足够 小，F1对A的抑制控制降低到某一限度时，A被激活而产生出一个控制信号送到F2中改变了F2的状态，并取消了原来自下而上的模式Y和V，结束了V和I失配。如图所示。 调整子系统A被激励 这样，输入模式I在F1中再 产生一个模式X，随后相继又产 生S和T，送入到F2中。由于在 F2中已有抑制信号存在，T就在 F2中产生一个新的样板模式Y*， 而不是原来的模式Y，如图所示。 新的Y*又产生出新的样板模式V*， 此时V*再与I匹配，如失配，则A 又被启动，在F2中又产生一个消 除信号。上述过程一直进行到V* 在F1中与I相匹配时为止。该过程 控制了LTM的搜索，从而调整了LTM对外界环境的编码。 通过上述过程可知，信号模式在F1与F2之间来回运行(振荡)，不断地调整V*与I,直至与其匹配(共振)为止。 新一轮自下而上过程 对于调整子系统的激励作用可以这样考虑： 当V*与I不匹配时，需要从A中送一个清除信号到F2中去。假定|I|表示I元素的个数，当I→F1时同时产生一个信号P到A中，所有的I产生了P|I|。同祥假定F1中的神经元也产生一个信号Q(抑制)到A，用|X|表示F1