第3讲 原理算法分析.pptVIP

然后根据总误差计算各层的误差信号并调整权值。 另一种方法是在所有样本输入之后，计算网络的总误差： * 误差反传（BP）算法 * 对于输出层： k=1,2,…,l (3.4.1) k=1,2,…,l (3.4.2) 对于隐层： j=1,2,…,m (3.4.3) j=1,2,…,m (3.4.4) 误差反传（BP）算法 * 双极性Sigmoid函数： 单极性Sigmoid函数： (3.4.5) 误差反传（BP）算法 * 一、网络误差与权值调整 输出误差E定义： (3.4.6) 将以上误差定义式展开至隐层： (3.4.7) 误差反传（BP）算法 * 一、网络误差与权值调整 进一步展开至输入层： (3.4.8) 误差反传（BP）算法 * j=0,1,2,…,m; k=1,2,…,l (3.4.9a) i=0,1,2,…,n; j=1,2,…,m (3.4.9b) 式中负号表示梯度下降，常数η∈(0,1)表示比例系数。 在全部推导过程中，对输出层有j=0,1,2,…,m; k=1,2,…,l 对隐层有 i=0,1,2,…,n; j=1,2,…,m 误差反传（BP）算法 * 二、BP算法推导 对于输出层，式(3.4.9a)可写为 (3.4.10a) 对隐层，式(3.4.9b)可写为 (3.4.10b) 对输出层和隐层各定义一个误差信