神经网络详解与实例.ppt

（p=1,…,P）（2）记wij为从输入向量的第j(j=1,…,m)个分量到输出向量的第i(i=1,…,n)个分量的权重。通常理论值与实际值有一误差，网络学习则是指不断地把与比较，并根据极小原则修改参数wij，使误差平方和达最小：记Delta学习规则:（4）（3）表示递推一次的修改量，则有称为学习的速率第30页，课件共85页，创作于2023年2月ipm=-1,wim=(第i个神经元的阈值)（5）注：由（1）式，第i个神经元的输出可表示为特别当f是线性函数时（6）第31页，课件共85页，创作于2023年2月第32页，课件共85页，创作于2023年2月图7多层前馈网络2．多层前馈网络（l）输入层不计在层数之内，它有N0个神经元．设网络共有L层；输出层为第L层；第k层有Nk个神经元．假设：(2)设表示第k层第i神经元所接收的信息wk(i,j)表示从第k-1层第j个元到第k层第i个元的权重，表第k层第i个元的输出第33页，课件共85页，创作于2023年2月（3）设层与层间的神经元都有信息交换（否则，可设它们之间的权重为零）；但同一层的神经元之间无信息传输．(4)设信息传输的方向是从输入层到输出层方向；因此称为前向网络．没有反向传播信息．（5）表示输入的第j个分量．假设：第34页，课件共85页，创作于2023年2月在上述假定下网络的输入输出关系可以表示为：（7）其中表示第k层第i个元的阈值.第35页，课件共85页，创作于2023年2月定理2对于具有多个隐层的前馈神经网络；设激发函数为S函数；且指标函数取（8）（9）则每个训练循环中按梯度下降时；其权重迭代公式为（10）表示第-1层第个元对第层第个元输入的第次迭代时的权重其中（11）（12）第36页，课件共85页，创作于2023年2月BP算法Step1选定学习的数据,p=1,…,P,随机确定初始权矩阵W（0）Step2用（10）式反向修正,直到用完所有学习数据.用学习数据计算网络输出Step3第37页，课件共85页，创作于2023年2月五．应用之例：蚊子的分类已知的两类蚊子的数据如表1：翼长触角长类别1.781.14Apf1.961.18Apf1.861.20Apf1.721.24Af2.001.26Apf2.001.28Apf1.961.30Apf1.741.36Af目标值0.90.90.90.10.90.90.90.1翼长触角长类别1.641.38Af1.821.38Af1.901.38Af1.701.40Af1.821.48Af1.821.54Af2.081.56Af目标t0.10.10.10.10.10.10.1第38页，课件共85页，创作于2023年2月输入数据有15个，即,p=1,…,15;j=1,2;对应15个输出。建模：（输入层，中间层，输出层，每层的元素应取多少个？）建立神经网络第39页，课件共85页，创作于2023年2月规定目标为：当t(1)=0.9时表示属于Apf类，t(2)=0.1表示属于Af类。设两个权重系数矩阵为：为阈值其中第40页，课件共85页，创作于2023年2月分析如下：为第一层的输出，同时作为第二层的输入。其中，为阈值，为激励函数若令（作为一固定输入）（阈值作为固定输入神经元相应的权系数）第41页，课件共85页，创作于2023年2月则有：取激励函数为=则同样，取第42页，课件共85页，创作于2023年2月（1）随机给出两个权矩阵的初值；例如用MATLAB软件时可以用以下语句：令p=0具体算法如下：=rand(2,3);=rand(1,3);(2)根据输入数据利用公式算出网络的输出=第43页，课件共85页，创作于2023年2月取（3）计算因为所以（4