BP神经网络实例..docVIP

BP神经网络实例分析 一、实例要求 1、 取九个点来训练网络，然后得出拟合曲线。 2、 取适当数量训练点来训练网络，然后得出拟合曲线 3、 取11*11个点来训练网络，并用21*21个点测试拟合的曲面。 二、计算结果如下 1、第一个函数： （1）学习率为0.2，训练次数为3300时 训练过程如学习曲线所示，圈圈为学习后产生的，折线为标准函数点连线。检验过程如检验曲线所示，点序列为拟合曲线上的点，曲线为标准函数曲线。误差曲线如右图所示。 （2）学习率为0.01，训练次数为3300时的曲线。 从函数1可以看出，学习率比较大时，曲线收敛比较快，可以比较快速达到精度要求。但实际上，学习率比较大时（即收敛步长比较大），容易超出收敛边界，反而收敛导致不稳定，甚至发散。 2、第二个函数： （1）学习率为0.2，样本点数为10，学习次数为5000时的曲线如下： （2）学习率为0.2，样本点数为30，学习次数为5000时的曲线如下： 从函数2可以看出，样本点个数越多时，曲线精度越高。但学习时间会有所增加。 3、第三个函数 学习率为0.1，动量项学习率为0.05，训练次数为5000，训练样本数为11*11。 图形如下： 附：程序源代码 第一个和第二个函数的程序： %此BP网络为两层隐含层，每个隐含层4个节点。输入输出各一层 %输入层和输出层均采用恒等函数，隐含层采用S形函数 clear all; close all; b=0.01; %精度要求 a=0.2; %学习率 c=2; Num=30; %训练样本数 N=3300; %训练次数 Nj=80; %检验样本数 o0=rand(2,1); %输入层阈值 o1=rand(4,1); %第一层隐含层阈值 o2=rand(4,1); %第二层隐含层阈值 o3=rand(1,1); %输出层阈值 w1=rand(4,2); %输入信号为两个 w2=rand(4,4); %第一层隐含层与第二层隐含层的权系数 w3=rand(1,4); %第二层隐含层与输出层的权系数 syms x y; %符号变量，用于两个输入值 %fcn=cos(x); %被学习的函数 fcn=abs(sin(x)); x0=0:2*pi/(Num-1):2*pi; %输入的训练样本 y0=0:2*pi/(Num-1):2*pi; x=x0; y=y0; X(1,:)=x0; X(2,:)=y0; yf=eval(fcn); %输出的训练样本 x3=zeros(1,Num); time=0; for j=1:1:N for i=1:1:Num %前向计算: s1=w1*X(:,i)-o1; x1=1./(1+exp(-s1)); %第一层隐含层输出 s2=w2*x1-o2; x2=1./(1+exp(-s2)); %第二层隐含层输出 s3=w3*x2-o3; %x3=1./(1+exp(-s3)); %输出层输出 x3(i)=s3; %反向计算： %e3=(yf(i)-x3)./(exp(s3)+2+exp(-s3)); %输出层误差 e3=yf(i)-x3(i); e2=((w3)*e3)./(exp(s2)+2+exp(-s2)); %第二层隐含层误差 e1=((w2)*e2)./(exp(s1)+2+exp(-s1)); %第一层隐含层误差 %权值和阈值修正 w3=w3+a*e3*(x2); %权值修正 w2=w2+a*e2*(x1); w1=w1+a*e1*(X(:,i)); o3=o3-a*e3; %阈值修正