自适应共振理论ART模型自适应共振理论ARTAdaptiveResonance.DOCVIP

自适应共振理论ART模型 自适应共振理论ART(Adaptive Resonance Theory)模型是美国Boston大学的S．Grossberg和A．Carpenet在1976年提出的。 ART是一种自组织神经网络结构，是无教师的学习网络。当在神经网络和环境有交互作用时，对环境信息的编码会自发地在神经网中产生，则认为神经网络在进行自组织活动。ART就是这样一种能自组织地产生对环境认识编码的神经网络理论模型。 ART模型是基于下列问题的求解而提出的： 1．对于一个学习系统，要求它有适应性及稳定性，适应性可以响应重要事件，稳定性可以存储重要事件。这种系统的设计问题。 2．学习时，原有的信息和新信息如何处理，保留有用知识，接纳新知识的关系如何及解决的问题。 3．对外界信息与原存储的信息结合并决策的问题。 ...... Grossberg一直对人类的心理和认识活动感兴趣，他长期埋头于这方面的研究并希望用数学来刻划人类这项活动，建立人类的心理和认知活动的一种统一的数学模型和理论。ART就是由这种理论的核心内容并经过提高发展然后得出的。目前，ART理论已提出了三种模型结构，即ARTt，ART2，ART3。ART1用于处理二进制输入的信息；ART2用于处理二进制和模拟信息这两种输人；ART3用于进行分级搜索。ART理论可以用于语音、视觉、嗅觉和字符识别等领域。 1．4．1ART模型的结构 ART模型来源于Helmboltz无意识推理学说的协作——竞争网络交互模型。这个模型如图1—19所示。 从图中看出这个模型由两个协作——竞争模型组成。无意识推理学说认为：原始的感觉信息通过经历过的学习过程不断修改，直到成为一个真实的感知结果为止。在图1—19中协作——竞争网络交互模型可以看出；环境输入信号和自上而下学习期望同时对协作——竞争网络1执行输入；而自下而上学习是协作——竞争网络1的输出；同时，自下而上学习是协作——竞争网络2的输人．而自上而下学习期望则是其输出。真实感知是通过这个协作——竞争网络的学习和匹配产生的。 环境输人信号对自上而下学习期望进行触发，使协作——竞争网络1产生自下而上学习的输出。这种输出送到协作——竞争网络2，则产生自上而下学习期望输出，并送回协作——竞争网络1。这个过程很明显是自上而下学习和自下而上学习的过程，并且这个过程中不断吸收环境输人信息。经过协作——竞争的匹配，最终取得一致的结果；这也就是最终感知或谐振感知。协作——竞争网络交互作用有下列基本要求： 第一，交互作用是非局域性的； 第二，交互作用是非线性的； 第三，自上而下的期望学习是非平稳随机过程。 图1-19? 协作——竞争网络交互模型 受到协作——竞争网络交互模型的启发．Grossberg提出了ART理论模型。他认为对网络的自适应行为进行分析，可以建立连续非线性网络模型，这种网络可以由短期存储STM和长期存储LTM作用所实现。STM是指神经元的激活值．即末由s函数处理的输出值，LTM是指权系数。 Grossberg所提出的ART理论模型有如下一些主要优点： 1．可以进行实时学习，能适应非平稳的环境。 2．对于已经学习过的对象具有稳定的快速识别能力；同时，亦能迅速适应未学习的新对象。 3．具有自归一能力，根据某些特征在全体中所占的比例，有时作为关键特征，有时当作噪声处理。 4．不需要预先知道样本结果，是无监督学习；如果对环境作出错误反映则自动提高“警觉性”，迅速识别对象。 5．容量不受输入通道数的限制，存储对象也不要是正交的。 ART的基本结构如图1—20所示。 它由输入神经元和输出神经元组成。它用前向权系数及样本输入来求取神经元的输出，这个输出也就是匹配测度；具有最大匹配测度的神经元的活跃级通过输出神经元之间的横向抑制得到进一步增强，而匹配测度不是最大的神经元的活跃级就会逐渐减弱，从输出神经元到输人神经元之间有反馈连接以进行学习比较。同样，还提供一个用来确定具有最大输出的输出神经元与输入模式进行比较的机制。ART模型的框图如图1—21所示。 图1-20 图1-21? ART模型 它由两个子系统组成，一个称为注意子系统(Attcntional Subsystem)，一个称为取向子系统(Orienting Subsystem)，也称调整子系统。这两个子系统是功能互补的子系统。ART模型就是通过这两个子系统和控制机制之间的交互作用来处理熟悉的事件或不熟悉的事件。在注意子系统中，有F1，F2这两个用短期存储单元组成的部件，即STM FI和STMF2。在FI和F2之间的连接通道是长期存储LTM。增益控制有两个作用：一个作用是在F1中用于区别自下而上和自上而下的信号；另一作用是当输入信号进入系统时，F2能够对来自F1的信号起阀值作用。调整子系统是由A和STM重置