神经网络制01中文.docVIP

笔记 #1: 神经网络 反向传播学习算法 神经网络 神经网络 N(x) x S(y) d e - + N(x)=S(y)=( S1(y1), S2(y2),, …, Sp(yp) ); S(?): 非线性方程. x 和 y 是 (1xn) 和 (1xp) 矢量. d 是需要的输出, (1xp) 矢量. e 是误差信号, (1xp) 矢量.. 迭代k, ek=dk – N(xk) = dk – S(yk) =[ (d1k – S(y1k), … , (dpk – S(ypk) ) 即时方均差的总计: SKIPIF 1 0 SKIPIF 1 0 此误差在迭代k时产生的. 总误差 SKIPIF 1 0 nT : 数据对总的误差, (x1,d1; …; x nT,d nT). 反向传播学习算法使 SKIPIF 1 0 在每次迭代减到最小. 这表明它也使 E变得最小? 如果 每个回合的E被减到最小,我们预期 E 也被减到最小. 例如: n=2, p=2, 也就是两个输入, 两个输出. ∑Sm ∑ S m11 m22 S ∑ m12 m21 ∑ S S ∑ S1(x1) S1(y1) S2(x2) S2(y2) x1 x2 y2 y1 d1 d2 - + + - e1 e2 所需输出 1 所需输出 2 输入层 输出层