神经网络-- ART1网络.doc

ART-1网络 前馈型神经网络完成训练后，即可投入正常的运行。若在使用过程中环境发生了变化，则需要重新构造一个能表现当前环境的样本集，并运用该样本重新对网络进行训练。在这种情况下，不能只用变化后新加的样本对网络进行“补充”训练，这样会破坏网络原有的知识，而只记下新的内容。即网络长期存储的内容只是它最后获得训练时系统所面对的样本集所蕴含的内容。网络的这种不能在保留已学内容的前提下增加新内容的特性称为网络的不可塑性。 在面对一些表示新添内容的样本时，如果真正能够只修改一部分内容，这样才有希望在保证不破坏原存储信息的基础上将新的内容增加进去。也就是说，在将样本中所含内容存入网络时，不能再像一般前向型网络那样，实施完全分布的存放，即存放是分类的。 要使网络具有可塑性，必须实现以下功能： （1）对样本的分类功能； （2）分类的识别功能； （3）比较功能； （4）类的建立功能。 Carpenter和Grossberg在1986年给出了一个特殊的例子：4个样本组成样本集。这4个样本被周期性地提交给网络，网络不断地修改各个权值去适应环境的变化。但是证明网络是难以收敛。后来，由Grossberg等人构造出了具有可塑性的网络模型，称为自适应共振理论（Adaptive Resonance Theory，简记为ART）。 按照ART网络的输入及其处理，该网络模型可分为两大类：一类只接受二值输入向量，称为ART-1，另一类可以接受二值的或连续的输入向量，称为ART-2。 一．ART-1的结构 为了使网络在保持原有内容的前提下（稳定性），能够将新的内容添加进去（可塑性），按上述分析，ART-1首先必须是一个分类器，它能够将输入向量进行适当的分类。对一个给定的输入向量，ART-1将在网络中已经存放的所有分类中进行查找，若能发现其中的某个“类表示”表达了该输入向量的基本特征，则可对此分类表示的“模式”进行适当的微调，使之能更好的表达该输入向量。由于被调整的“对象”是被网络确认的用于表示输入向量所在类的“类表示”，所以它不影响已有的其他类的“类表示”。这样就可保证网络的相对稳定性。如果网络在已有的“类表示”中找不到与当前输入向量相对应的“类表示”，则应在自己的容量范围内创造一个新的“类表示”，使之与输入向量匹配。即网络的可塑性。 网络的稳定性与可塑性是不同的，表示如下： 为实现上述要求，构造出如下所示的ART-1总体结构图。 图1 ART-1总体结构图 基本工作过程为：当系统没有输入向量时，比较层输出控制信号使得比较层的输出信号为0；识别层的输出控制信号使得识别层输出为0。 当输入向量加到系统上时： （1）使原封不动地按的形式送入识别层，在识别层找到应该属于的类； （2）将该类的代表向量以向量送回到比较层，与相比较，形成新的输出； （3）将和同时送入系统复位控制模块进行比较，若系统认为可以代表，则网络进入训练期，即按照修改被选中的和；否则，系统使识别层复位，向量重新送入比较层，寻找新的类进行匹配，如此下去，直到找到一个能满足要求的类或发现系统现有的类均不能满足要求。 （4）当系统发现已有的类无法表示输入向量时，则创建一个新的类。 为方便分析，将ART-1模型的识别层和比较层拓扑结构表示如下： 图2 ART-1模型识别层与比较层的拓扑结构 图中：为输入向量，为识别层的输出向量，为比较层的输出向量，为比较层的输入向量，相当于输入向量所在类的表示形式。（top-down）为从识别层到比较层的联接权矩阵（从上到下的），（bottom-up）为从比较层到识别层的联接权矩阵（从下到上的），和分别是识别层第个神经元对应的识别层联接权向量和比较层联接权向量。 其中：表示识别层第个神经元到比较层第个神经元的联接权；表示比较层第个神经元到识别层第个神经元的联接权。为比较层第个神经元的网络输入，为识别层第个神经元的网络输入： ， （1） 下面分别讨论各个功能模块： 1．比较层输出控制信号：仅当输入向量为非0向量，并且为0向量时，输出1，否则输出0。 （2） 即：仅当输入向量刚加在网络上（），识别层对应的输出向量还未出现时（此时），才输出1。 2．识别层输出控制信号：识别层的输出控制可以看为对识别层的封锁与使能。当时，它封锁识别层，使；当时（正常工作），它使能识别层，并根据当前的向量，产生相应于的类表示。