h通过非线性信号函数的对比增强噪声抑制和衰 .docVIP

ART2: 模拟输入模式的稳定类型识别编码的自组织网络 摘要：自适应谐振体系结构是一种可以实时响应任意序列输入模式的，自组织地进行稳定模式编码的神经网络。本文介绍了一种自适应谐振体系结构－ART2，对于任意序列的模拟或二进制输入模式,这种结构能迅速自组织地进行模式识别并聚类。为了处理任意序列模拟输入模式，ART2体系结构将问题的解决方案整理，并表达为一组设计原则：如稳定性－可塑性平衡，搜索－直接存取平衡，以及匹配－复位平衡。在这些体系结构中，自上而下学习期望和匹配机制在自稳定的编码过程中是至关重要的。随着学习进程的开始,并行的搜索方案使ART2可以自我更新，并实现实时的假说建立、测试、学习和识别过程。经过学习自我稳定后，搜索过程可以自动脱钩，此后输入模式可直接访问他们的识别码而不需要再搜索。因此, 识别熟悉的输入所用的时间不随学习编码的复杂性而增加。如果新的输入模式与已熟知类别的样本集合具有共同的不变的属性,那么它可以直接访问这一类别。警戒值参数则决定了该分类的细致程度。如果由于环境反馈,警觉性增加（或减少），系统就会自动搜寻并更细（或更粗）地进行识别分类。增益调节参数能使ART2抑制噪音达到一定水平。尽管ART2网络具有高度的非线性，其的全局性设计仍使它能够有效地学习。 自适应谐振体系结构 自适应谐振体系结构是一种可以实时响应任意序列输入模式的，自组织地进行稳定模式编码的神经网络。在文[1]中,Grossberg提出了自适应谐振理论的基本原理。在文[2]和[3]中，Carpenter和Grossberg用一组常微分方程刻画了一类被命名为ART1的自适应谐振结构。对于任意序列的二进制输入模式，经证明的定理已能说明ART 1 网络实时动态特性。这些定理预示了搜索的顺序（可视为网络的学习过程的函数）和渐近分类结构是有任意序列的二进制输入模型自行组织的。这些定理也证明系统自稳定性能和说明了该体系的适应权重振动至多一次，而不会陷于伪存储状态或局部极小值。 本文介绍了一类新的自适应谐振结构，即所谓的ART2。对于任意序列的模拟（灰度级，连续值）输入模式，以及二进制输入模式，ART 2网络能够自行组织，形成稳定的识别分类。本文将通过计算机仿真方法来说明系统的动态特性.例如图1，它展示了一个典型的ART2网络，在每个样本只输入系统一次后，快速把一组五十个样本自行聚类成三十四个稳态的识别种类。每个数字下面的图例被ART 2聚类为相同类别。仿真系统方程式将在Secs.V-VIII中给出。 ART网络通过修正连接权重,也就是自下而上的自适应过滤器的长期记忆系统（LTM）的迹，来对新的输入模式进行编码（图2）。这个过滤器包含在从特征表示场（F1）到类别表示场（F2）（它们的节点经过合作与竞争的相互作用后）的通道中。这种自适应过滤和竞争的结合，有时也被称为竞争学习，在许多其他类型的自适应模式识别和相关学习中也存在。可参见Grossberg关于竞争学习模式发展的回顾[4]。然而，在ART网络中，自上向下的自适应过滤器(第2个过滤器)对编码自稳定性有着至关紧要的作用。这种自上而下自适应信号在ART系统中扮演着对学习的期望值。它们能使系统引发注意启动，模式匹配，和自我调节的并行搜索。ART设计的关键点之一是对于任意输入环境，必须有自上而下的注意和有意的机制(或称为期望)来保证自稳定的学习。 像自下而上和自上而下的自适应过滤器一样，场F1和F2 也包含在ART的注意子系统（见图2 ）。当自下而上的F1层输入与自上而下的期望值（F2中激活类别所输出）匹配失败时，调整子系统将被激活。在这种情况下，激活的调整子系统迅速地重置（抑制）F2层的激活类别。重置动作将自动引导注意子系统再次进行并行搜索。备选种类被一一测试，直到找到一个适当的匹配或建立一个新的类别。因为搜索策略在整个学习过程中是自适应地更新的，搜索保持有效。相对学习速率，搜索过程更快。然而，只有当一个搜索结束和系统内部有一个匹配的F1模式共振时，自下而上和自上而下的自适应过滤器才会出现显著的变化。图1所示的仿真中，在最初的50种输入中，有许多ART2系统进行了一次搜索过程。 图1.50个模拟输入模式类别分组到34识别类 图2.一个典型的ART1结构 自下向上自适应过滤、编码（或假说）的选择、自上向下的学习期望值的输出、匹配和代码复位的循环过程表明，在ART系统中，自适应模式识别是更为一般的认知过程（发现，测试，搜索，学习，并证实假说）的一个特例。在ART系统的应用中，对大型抽象的知识基础的自适应处理是未来研究的一个重要目标。 事实上，ART系统的学习只发生在谐振状态，这使得系统解决可塑性与稳定性的平衡成为可能。可塑性，或称快速改变LTM轨迹的趋势，能够无限期地保持完整，这使得ART体系结构能够学习