BackpropagationAlgorithm培训课件.pptVIP

,, 1957年美国学者罗森布拉特Rosenblatt提出了一类具有自学习能力的感知器模型，它是一个具有单层计算单元的前向神经网络，其神经元为线性阈值单元，称为单层感知器。它和M-P模型相似，当输入信息的加权和大于或等于阈值时，输出为1，否则输出为0或-1。与M-P模型不同之处是神经元之间的连接权值wi是可变的，这种可变性就保证了感知器具有学习能力。 ,, ,, 输入层神经元的个数为输入信号的维数，输出层神经元的个数为输出信号的维数。隐含层个数以及隐节点个数视具体情况而定，保证足够高的网络性能和泛化能力，确定隐层节点数的最基本原则是：在满足精度要求的前提下取尽可能紧凑的结构，即取尽可能少的隐层节点数。 ,, ,, ,, 反向传播模型也称B-P（Back Propagation）模型,是一种用于前向多层神经网络的反向传播学习算法，由鲁梅尔哈特D.Rumelhat和麦卡洛克MeClelland于1986年提出。 ,, ,, 工作信号正向传播，误差信号反向传播 反向传播算法：从后向前（反向）逐层传播输出层的误差，以间接算出隐层误差。分两个阶段： 正向过程：从输入层经隐层逐层正向计算各单元的输出 反向过程：由输出误差逐层反向计算隐层各单元的误差，并用此误差修正前层的权值 ,, ,, ,, ,, ,, ,, ,, 1°将（1）式写成以t为变量的时间序列，t由0到n。则（1）式就可以看成是