人工神经网络理论设计及应用教学课件汇总整本书电子讲义全套教学教程完整版电子讲义(最新).pptVIP

4.5.1.2 网络运行原理 (3)搜索阶段 网络发出Reset 重置信号后即进入搜索阶段，重置信号的作用是使前面通过竞争获胜的神经元受到抑制，并且在后续过程中受到持续的抑制，直到输入一个新的模式为止。由于R 层中的竞争获胜的神经元被抑制，从而再度出现R0=0，G1=1，因此网络又重新回到起始的匹配状态。 由于上次获胜的节点受到持续的抑制，此次获胜的必然是上次匹配程度排在第二的节点，将该节点对应的外星权向量与输入模式进行匹配计算。如果对R层所有的模式类，在比较阶段的相似度检查中相似度都不能满足要求，说明当前输入模式无类可归，需要在网络输出层增加一个节点来代表并存储该模式类，为此将其内星向量 设计成当前输入模式向量，外星向量 各分量全设为1。 网络运行原理 改进2：自适应调节学习率 提出的原因： 标准BP算法中，学习率η也称为步长，确定一个从始至终都合适的最佳学习率很难。 平坦区域内，η太小会使训练次数增加； 在误差变化剧烈的区域，η太大会因调整量过大而跨过较窄的“坑凹”处，使训练出现振荡，反而使迭代次数增加。 改进2：自适应调节学习率 基本思想： 自适应改变学习率，使其根据环境变化增大或减小。 基本方法： 设一初始学习率，若经过一批次权值调整后使总误差↑，则本次调整无效，且?=β?(β1 )； 若经过一批次权值调整后使总误差↓，则本次调整有效，且?=