多层前馈网络和 与BP学习算法 神经网络控制课件（第三版）.pptVIP

2-5 多层前馈网络与BP学习算法 　 多层前馈网络的反向传播 （BP）学习算法，简称BP算法，是有导师的学习，它是梯度下降法在多层前馈网中的应用。 2-5-1 网络结构 　　　见图，u、y是网络的输入、输出向量，神经元用节点表示，网络由输入层、隐层和输出层节点组成，隐层可一层，也可多层（图中是单隐层），前层至后层节点通过权连接。由于用BP学习算法，所以常称BP神经网络。 　 BP神经网络 2-5-2 BP学习算法 已知网络的输入/输出样本，即导师信号。 BP学习算法由正向传播和反向传播组成： 正向传播是输入信号从输入层经隐层，传向输出层，若输出层得到了期望的输出，则学习算法结束；否则，转至反向传播。 反向传播是将误差(样本输出与网络输出之差）按原连接通路反向计算，由梯度下降法调整各层节点的权值和阈值，使误差减小。 正向传播 反向传播 BP神经网络 学习算法步骤： 反向传播 BP算法 　　　　　 演示 2-5-3 有关的几个问题 略 演示 例2-5-1M 构建三层BP网络 演示 例2-5-2M BP网络的BP学习算法 演示 例2-5-3 BP网络的改进学习算法 演示 例2-5-4M BP网络逼近非线性函数