人工神经网络理论设计及应用（ 第二版） 教学课件 作者 韩力群 编著 第四章ART.pptVIP

尚辅网 尚辅网 4.5 自适应共振理论 思考并回答以下几个问题 神经网络的学习和记忆特性 学习过程的本质？ 网络将知识存储（记忆）在什么地方？ 对于感知器/BP网络/SOM网络学习时，当新样本输入时，权值的改变对旧样本的影响是什么？ 自适应共振理论（ART） 历史 1976年，美国Boston大学学者G.A.Carpenter提出自适应共振理论(Adaptive Resonance Theory，缩写为ART)，他多年来一直试图为人类的心理和认知活动建立统一的数学理论，ART就是这一理论的核心部分。随后G.A.Carpenter又与S.Grossberg提出了ATR网络。 共振现象的一些例子 共振现象 鱼洗 寺院无人敲而响的磬 军队过桥 雪崩 人类认知（图像） ART网络学习算法的基本流程 4.5.1 ARTⅠ型网络 4.6 本章小结 北京工商大学信息工程学院 * 北京工商大学信息工程学院 尚辅网 尚辅网 尚辅网 自适应共振理论 尚辅网 当双手策动力的频率跟物体的固有频率相等时，振幅最大，这种现象叫共振。水中发出的嗡鸣声是铜盆腔内的振动和摩擦频率振动发生共振引起的。 自适应共振理论 尚辅网 环境输入模式 与储存的典型向量模式进行比较 神经网络的连接权值 选择最相似的作为该模式的代表类，并调整与该类别相关的权值，以使以后与该模式相似的输入再与该模式匹配时能得到更大的相似度。 相似度的参考门限 需要在网络中设立一个新的模式类，同时建立与该模式类相连的权值，用以代表和存储该模式以及后来输入的所有同类模式。 尚辅网 C —— 比较层 R —— 识别层 Reset ——复位信号 G1和G2 ——逻辑控制信号 4.5.1.1网络系统结构 尚辅网 4.5.1.1网络系统结构 (1)C 层结构 该层有n个节点，每个节点接受来自3个方面的信号： 来自外界的输入信号xi； 来自R 层获胜神经元的外星向量的返回信号Tj； 来自G1的控制信号。 C 层节点的输出ci是根据2/3的“多数表决”原则产生的，即输出值ci与xi、tij 、G1 3个信号中的多数信号值相同。 G1=1，反馈回送信号为0，C层输出应由输入信号决定，有C=X。 反馈回送信号不为0，G1=0，C层输出应取决于输入信号与反馈信号的比较情况，如果xi=，则ci=xi。否则ci=0。 网络系统结构 尚辅网 4.5.1.1网络系统结构 （2）R层结构 R 层有m 个节点，用以表示m 个输入模式类。m可动态增长，以设立新模式类。 由C 层向上连接到R 第j 个节点的内星权向量用Bj=（b1j，b2j，…,bnj）表示。 C 层的输出向量C 沿m个内星权向量Bj(j=1,2,…,m)向前传送，到达R 层各个神经元节点后经过竞争在产生获胜节点j*，指示本次输入模式的所属类别。 获胜节点输出=1，其余节点输出为0。R 层各模式类节点的典型向量。 网络系统结构 尚辅网 4.5.1.1网络系统结构 (3)控制信号 控制信号G2的作用是检测输入模式X 是否为0，它等于X 各分量的逻辑“或”，如果xi(i =1,2,…,n)为全0，则G2=0，否则G2=1。 控制信号G1的作用是在网络开始运行时为1，以使C=X，其后为0以使C 值由输入模式和反馈模式的比较结果决定。设R 层输出向量各分量的逻辑“或”用R0表示，则信号G1= ，当R 层输出向量R 的各分量为全0而输入向量X不是零向量时，G1=1，否则G1=0。 控制信号Reset的作用是使R层竞争获胜神经元无效，如果根据某种事先设定的测量标准，与X未达到预先设定的相似度ρ，表明两者未充分接近，于是系统发出Reset信号使竞争获胜神经元无效。 网络系统结构 尚辅网 4.5.1.2 网络运行原理 相似程度可能出现的两种情况： ①相似度超过参考门限 选该模式类作为当前输入模式的代表类。权值调整规则是，相似度超过参考门限的模式类调整其相应的内外星权向量，以使其以后遇到与当前输入模式接近的样本时能得到更大的相似度；对其它权值向量则不做任何变动。 ②相似度不超过门限值 需在网络输出端设立一个代表新模式类的节点，用以代表及存储该模式，以便于参加以后的匹配过程。 网络运行原理 尚辅网 4.5.1.2 网络运行原理 对于每一个输入，模式网络运行过程可归纳为四个阶段： (1)匹配阶段 网络在没有输入之前处于等待状态，此时输入端X＝0，因此信号G2＝0，R0= 0。当输入不全为0的模式X 时，G2＝1，R0=0，使得G1==1。G1为1时允许输入模式直接从C层输出，并向前传至R 层，与R 层节点对应的所有内星向量Bj 进行匹配计算： j