bp神经网络数学式子.doc

BP神经网络模型 基本原理简介 近年来全球性的神经网络研究热潮的再度兴起，不仅仅是因为神经科学本身取得了巨大的进展．更主要的原因在于发展新型计算机和人工智能新途径的迫切需要．迄今为止在需要人工智能解决的许多问题中，人脑远比计算机聪明的多，要开创具有智能的新一代计算机，就必须了解人脑，研究人脑神经网络系统信息处理的机制．另一方面，基于神经科学研究成果基础上发展出来的人工神经网络模型，反映了人脑功能的若干基本特性，开拓了神经网络用于计算机的新途径．它对传统的计算机结构和人工智能是一个有力的挑战，引起了各方面专家的极大关注． 模型背景：样本是从2002年到2011年，各地到四川的旅游人数 模型的建立： 第一步：利用MATLAB软件对BP神经网络模型的权值进行随机初始化，得到初始化权值1。 给各连接权值{Wij}、{Vjk}及阈值{Rj}、{Tk}赋予（-1，+1）间的随机值。 a.?????? 对于k=1到N a). 计算Oik, netjk和?k的值(正向过程)； b). 对各层从M到2反向计算(反向过程)； b.?????? 对同一节点j∈M,由式(34.1)和(34.2)计算δjk; 本模型是含有4个节点的网络，各节点之特性为Sigmoid型，且指定网络只有一个输出y,任一节点i的输出为Oi,并有10个样本(xk,yk)(k=1,2,3,…,10),对某一输入xk，网络输出为yk节点i的输出为Oik,节点j的输入为netjk= 误差函数定义为 其中为网络实际输出，定义Ek=(yk-?k)2, ,且Ojk=f(netjk),于是 =δjkOik 当j为输出节点时，Ojk=?k (34.1) 若j不是输出节点，则有 因此 (34.2) 第三步，修正权值，Wij=Wij-μ, μ0, 其中。 1.开始。 2.连接权值及阈值的初始化。 ??? 给各连接权值{Wij}、{Vjk}及阈值{Rj}、{Tk}赋予（-1，+1）间的随机值。 3.将学习数据对提供给网络 ??? 随机选取一组输入值Zi=（z1,z2,...,zI）和输出值Dk=（d1，d2,...,dK）提供给网络进行学习。 4.计算中间层各单元的输入、输出。 ??? Yj = f （netj），netj=∑WijZi -Rj，j = 1......J 5.计算输出层各单元的输入、输出。 ??? Ok= f（netk），netk=∑VjkYj-Tk，k = 1......K 6.计算输出层各单元的一般化误差。 ??? Eok=（dk-Ok）Ok（1-Ok）??? 7.计算中间层各单元的一般化误差。 ??? Eyj=（∑EokVjk）Yj（1-Yj） 8.调整中间层至输出层之间的连接权值，及输出层各单元的阈值。 ??? Vjk（n+1）=Vjk（n）+?? ηEokYj ??Tk（n+1）=Tk（n）- ηEok 9.调整输入层至中间层之间的连接权值，及中间层各单元的阈值。 ??? Wij（n+1）= Wij（n）+ ηEyjZi ??? Rj（n+1）= Rj（n）- ηEyj 10.随机选取下一组学习数据对提供给网络，返回到第3布，直到全部数据训练完。 Sigmoid型，且指定网络只有一个输出y,任一节点i的输出为Oi,并有10个样本(xk,yk)(k=1,2,3,…,10),对某一输入xk，网络输出为yk节点i的输出为Oik,节点j的输入为netjk= 具体算法： 1.输入时间序列P=[ ],X=[ ] (P2002年至2011年的年份，X指2002年至2011年到四川旅游的人数) 2..对样本进行数值处理,使之变换成BP神经网络的输入模式对。这里我们采用数据移动平滑处理，公式为： 3.初始化BP神经网络各层的权值和阈值，让各层的权值和阈值取个随机数作为初值，wij=random(),vjt=random()。这里利用MATLAB软件对BP神经网络模型的权值进行随机初始化，得到随机初始化权值。 4.对每个模式进行如下循环： 其中为网络实际输出，定义Ek=(yk-?k)2, , 且Ojk=f(netjk), 于是=δjkOik 当j为输出节点时，Ojk=?k 若j不是输出节点，则有 因此 5.计算bj和ci 6.计算各层误差，误差函数定义为 7.判断是否循环至样本集总数，否则返回步骤4 8.计算总误差E，E为各样本误差总和并判断E是否满足精度要求，若Ee则学习停止 9.修改权值和阈值，并转到步骤4 10. 贮存，以备预测值的计算 11. 计算未来旅游人口预测值 在网络训练之后，预测的行程时间可由下式求得： 12.对Tt值进行数据处理即得四川未来的旅游人口的预测结果。 预测模型的优缺点分析 神经网络预测模型的缺点：