智能控制理论及应用 第8章 BP神经网络.pptVIP

为了表示方便，我们以一个具体的神经网络为例进行介绍。该BP网络有2个输入（分别是x1,x2）、2个输出(y1,y2)、1个隐含层，隐含层的神经元个数为2，隐含层和输出层的激励函数均采用sigmoid函数【回车】网络的初始权值，偏置值，输入输出样本值如表格所示。*计算得到隐含层的输出h1,h2后，接下来可以进一步计算输出层的输出y1,y2.【回车】同样，先计算输出层第一个节点的综合输入nety1Nety1等于其输入和对应权值的乘积之和，即w5*h1+w6*h2+b3*1=1.1059.【回车】经过激活函数后得到最终的输出值y1=0.7514.【回车】同理，可以求得nety2，【回车】以及最终的输出y2.*接下来计算当前的误差。总的误差等于y1的误差+y2的误差。Ey1和Ey2分别等于对应误差的平方，计算值如图中所示。计算出误差后，【回车】接下来，基于梯度下降法进行权值的更新，这个是更新公式。在更新公式中，我们就是要把误差对权值的导数求出来。*因此，接下来，就是反向传播过程。我们首先求输出层权值的梯度，即Etotal对w5的偏导数。可以看出，Etotal是w5的复合函数，使用链式法则即可求出该偏导数偏Etotal/偏w5=Ey1对y1求偏导，y1对nety1求偏导，nety1对w5求偏导。【回车】Ey1对y1的偏导就等于-（t1-y