第五部分BP网络.pptVIP

2006-12-6 北京科技大学 自动化系 付冬梅 5-1 网络结构和模型 5-1 网络结构与模型 5-2 BP网络的学习算法 　 多层前馈网络的反向传播 （BP）学习算法，简称BP学习算法，这是一种有导师的学习算法，是梯度下降法在多层前馈网中的应用。 BP学习算法可以看成是线性自适应神经元学习算法的进一步推广。 网络结构 输入层有n个神经元，隐含层有p个神经元，输出层有q个神经元。 变量定义 输入向量; 隐含层输入向量； 隐含层输出向量; 输出层输入向量; 输出层输出向量; 期望输出向量; 输入层与中间层的连接权值: 隐含层与输出层的连接权值: 隐含层各神经元的阈值: 输出层各神经元的阈值: 样本数据个数: 激活函数: 误差函数： 第一步，网络初始化 给各连接权值分别赋一个区间（-1，1）内的随机数，设定误差函数e，给定计算精度值 和最大学习次数M。 第二步,随机选取第 个输入样本及对应期望输出 第三步，计算隐含层各神经元的输入和输出 第四步，利用网络期望输出和实际输出，计算误差函数对输出层的各神经元的偏导数 。 第六步，利用输出层各神经元的 和隐含层各神经元的输出来修正连接权值 。 第八步，计算全局误差 第九步，判断网络误差是否满足要求。当误差达到预设精度或学习次数大于设定的最大次数，则结束算法。否则，选取下一个学习样本及对应的期望输出，返回到第三步，进入下一轮学习。 情况一的直观表达 当误差对权值的 偏导数大于零时，权 值调整量为负，实际 输出大于期望输出， 权值向减少方向调整， 使得实际输出与期望 输出的差减少。 情况二的直观表达 当误差对权值的偏导数 小于零时，权值调整量 为正，实际输出少于期 望输出，权值向增大方 向调整，使得实际输出 与期望输出的差减少。 newff() 功能 建立一个前向BP网络 格式 net = newff(PR，[S1 S2...SN1]，{TF1 TF2...TFN1}，BTF，BLF，PF) 说明 net为创建的新BP神经网络；PR为网络输入取向量取值范围的矩阵；[S1 S2…SNl]表示网络隐含层和输出层神经元的个数；{TFl TF2…TFN1}表示网络隐含层和输出层的传输函数，默认为‘tansig’；BTF表示网络的训练函数，默认为‘trainlm’；BLF表示网络的权值学习函数，默认为‘learngdm’；PF表示性能数，默认为‘mse’。 tansig() 功能 正切sigmoid激活函数 格式 a = tansig(n) 说明 双曲正切Sigmoid函数把神经元的输入范围从(-∞，+∞)映射到(-1，1)。它是可导函数，适用于BP训练的神经元。 logsig() 功能 对数Sigmoid激活函数 格式 a = logsig(N) 说明对数Sigmoid函数把神经元的输入范围从(-∞，+∞)映射到(0，1)。它是可导函数，适用于BP训练的神经元。 下表为某药品的销售情况，现构建一个如下的三层BP神经网络对药品的销售进行预测：输入层有三个结点，隐含层结点数为5，隐含层的激活函数为tansig；输出层结点数为1个，输出层的激活函数为logsig，并利用此网络对药品的销售量进行预测，预测方法采用滚动预测方式，即用前三个月的销售量来预测第四个月的销售量，如用1、2、3月的销售量为输入预测第4个月的销售量，用2、3、4月的销售量为输入预测第5个月的销售量.如此反复直至满足预测精度要求为止。 %以每三个月的销售量经归一化处理后作为输入 P=[0.5152 0.8173 1.0000; 0.8173 1.0000 0.7308; 1.0000 0.7308 0.1390; 0.7308 0.1390 0.1087; 0.1390 0.1087 0.3520; 0.1087 0.3520 0.0000;]; %以第四个月的销售量归一化处理后作为目标向量 T=[0.7308 0.1390 0.1087 0.3520 0.0000 0.3761]; %创建一个BP神经网络，每个输入向量的取值范围为[0 ,1]， 5个隐层神经元，一个输出层神经元，隐层的激活函数tansig，输出层激活函数logsig，训练函数为梯度下降函数。 net=newff([0 1;0 1;0 1],[5,1],{tansig,logsig},traingd); net.trainParam.epochs=15000; net.trainParam.goal=0.01; LP.lr=0.1; %设置学习速率为0.1 net=train