BP算法程序实现.docxVIP

BP网络隐层可以有多个，多隐层的 BP网络模型 对一般多层前馈网模型如图所示 i层■■h个S i层 ■ ■ h 个S 隐 冷 层 个s 牛01 图3.3多层BP网络结构 设有h个隐层，按前馈顺序各隐层节点数为 m,m2,…,mh；各隐层输出为y1,y 2,…,yh;各 层权值矩阵分别为 W,丙，…，WW，贝各层权值调整计算公式为： 输出层 w；1 二(dk-Ok)Ok(1 - ojy； j =0,1,2, ,mh；k =1,2,,丨 第h隐层 l 讪h 八w cwhjyhd-yhwJ k=1 i =0,1,2, ,m-i；j =1,2,…,mh 按上述规律逐层类推，可得到第一隐层权值调整计算公式为 m2 1 i 2 2 1 1 )Wpq = 、.qXp=「(7 、r Wq」yq(1 — yq)Xp r 4 p =0,1,2, , n;q =1,2, m 三层前馈网的BP学习算法也可写成向量形式： 对输出层 AW =「[3° y T]T 式中 y “yoyy…yj…ym]T, 护°…打…、：io]T 对于隐层 V = [ 3yX I 式中 X “XoXg…Xj…Xn ］T ,沪二［C …打…-第］T 看出，BP算法中，各层权值调整公式形式上都是一样的， 均由3个因素决定，学习率n, 本层输出的误差信号3及本层输入信号丫(或X)。其中输出层误差信号同网络的期望输出与 实际输出之差有关，直接反映了输出误差，而各隐层的误差信号与前面各层的误差信号都有 关，是从输出层开始逐层反传过来的。反传过程可以简述为： d与o比较得到输出层误差信号3° —计算输出层权值调整量厶 W 3°通过隐层各节点反 传一计算各隐层权值的调整量厶V. 例 采用BP网络映射下图曲线规律。 1 09 - / \ 03 / \ 07 V \ r 0.6 0.5 7 0.4 \ \ \ / /彳 03 \ - \ / - \ / 0 2 — X / - 0 1 n \ 1 II 1 1 1 \ii / / / , 0 0.5 1 I 5 2 25 3 3.5 设计BP网络结构如下: 单隐层1 —4— 1 B P网络 权系数随机选取为：W2=0.2,w i3=0.3,w i4=0.4,w 15=0.5, w 26=0.5,W 36=0.2,W 46=0.1,W 56=0.4 o 取学习率n =1 按图中曲线确定学习样本数据如下表（每0.05取一学习数据，共80对） x （输入信号） y（教师信号） ??- x （输入信号） y（教师信号） 0.0000 0.5000 3.0000 0.0000 ?… ?… ??- ?… ?… 1.0000 1.0000 4.0000 0.5000 按表中数据开始进行学习: 第一次学习，输入x1=0.0000(1节点第1次学习),d； =0.5000，计算2、3、4、5单 元状态netj: net^w^xl =w1i *0.0000 =0.0000 i =2,3,4,5 计算2、3、4、5各隐层单元输出yi ( i =2,3,4,5) y1 - f(netj =1心 e』eti) =0.5 计算输出层单元6的状态值net；及输出值y； ■0.51 net6 net6 二W；TYi 二 0.5 0.2 0.1 0.4」 =—0.6 0.5 0.5 y6 -1/(1 et6) =1/(1 e^6) =0.6457 反推确定第二层权系数变化： 酩=y1(d6 —y1)(1—y6) =0.6457(0.5—0.6457)(1 —0.6457) = -0.0333 Wi^w^ 「的1 i =2,3,4,5 第一次反传修正的输出层权为： 0.5 0.5 0.4833 0.2 + 1 *(-0.0333) 0.5 0.1833 0.1 0.5 0.0833 0.4. 1 1 一0.5 一 1 1 0.3833 一 反推第一层权系数修正： 二色脑側“1 -y；) i =2,3,4,5 W1i =w° ■ ^1x1 Wi 二 0.2 0.3 0.4 0.5T 第二次学习，x2 =0.0500，0.5250 2 neti 二⑷和治 i =2,3,4,5 ￡ =1/[1 飞如2*)] =1/[1 e402 0.0500)] =0.5025 住=1/[1 飞汕13小]=1/[1 e40-3 0.0500)] =0.5037 y =1/[1 e”.4 0.0500)] =0.5050 y =0.5062 计算6单元状态net6: 0.5025_ t 匸 t 0.5037 n et6 =W6tY = 0.4833 0.1833 0.0833 0.3833】 =0.5713 0.5050 .0.5062 一 代二 f(net6) =1/(1 e^5713) = 0.