Madaline学习算法.pptVIP

Madaline网络的学习算法 主要内容 Adaline神经元和Madaline网络的基本结构和工作原理 MＲII 学习算法 用Adaline的敏感性为工具改进Madaline的学习算法。 Adaline的结构 Madaline的网络结构 MRII算法的基本思想 给网络提供输入模式向量以及相应的理想输出，训练的目标是尽可能地找出所有隐层中每个Adaline的理想输出，把对网络的训练转化为对每个Adaline 的训练。 MRII算法 当一个样本提供给神经网络时，网络得到一个输出，比较该输出与理想输出，如果相 同，说明训练成功，进入下一个样本学习。 如果不同，在第一层上找出模拟量绝对值（置信度）最小的那个神经元，翻转它的输出，并逐层计算，得到网络的输出。 MRII算法（续） 检查输出的出错个数（hamming距离），如果没有减少，则恢复原来的数据，然后选择置信度次小的神经元来尝试翻转。如果减小了，这个尝试就被接受。在这种情况下，我们假设翻转后的神经元输出就是该神经元的理想输出，更新它的权值。 　调权公式： MRII算法（续） 如果这个神经元的翻转只是减少了出错个数并不能得到全部的理想输出，则重新对置信度排序，然后对它重复上面的过程。 如果单个这样的尝试完毕后仍未得到全部理想输出，再将第一层的神经元按两个一组尝试翻转，重复以上过程。依次三个一组，四个一组，直到K个