Matlab-神经网络_精品文档.pptxVIP

3.BP网络(BackPropagationnetwork);3.1BP神经网络模型结构;上图给出一个基本的BP神经元模型，它具有R个输入，每个输入都通过一个适当的权值w和上一层相连，网络输出可表示为：

a=f(w*p+b)

f就是表示输入/输出关系的传递函数。BP网络中隐层神经元的传递函数通常用log-sigmoid型函数logsig()、tan-sigmoid型函数tansig()以及纯线性函数purelin()。

如果BP网络的最后一层是sigmoid型神经元，那么整个网络的输出就限制在一个较小的范围内；如果BP网络的最后一层是purelin型线性神经元，那么整个网络的输出可以取任意值。;;上图(下半部)是一个典型两层BP网络(一个隐层和一个输出层)。前馈型网络通常有一个或多个隐层，隐层中的神经元均采用S型传递函数，输出层的神经采用线性传递函数。隐层的非线性传递函数神经元可以学习输入输出之间的线性和非线性关系，线性输出层是为了拓宽网络输出。如果需要限定网络输出(例如约束在0和1之间)，则可以采用S型传递函数(例如logsig())。;3.4网络仿真; p=[123;241];

a=sim(net,p)

a=

0.34670.97050.6030;无论是函数逼近还是模式识别，都必须对神经网络进行训练。训练之前首先需要样本，样本中包含输入向量P以及相应的期望输出向量T，训练过程中应不断调整权值和阈值，使得神经网络的表现函数达到最小。前馈型神经网络的表现函数缺省为网络输出a和期望输出向量T的均方差mse。下面，将各种函数所对应的方法一并归类如下：;3.6BP网络的相关讨论;对于非线性系统，选择合适的学习率是一个很重要的问题。在线性网络中，学习率过大会导致训练过程不稳定。相反，学习率过小又会造成训练时间过长。和线性网络不同，对于非线性多层网络很难选择很好的学习率。对那些快速训练算法，缺省参数值基本上都是最有效的设置。;3.7应用举例;xlabel(时间);

ylabel(非线性函数);;2).网络建立;因为使用newff()函数建立网络时，权值和阈值的初始化是随机的，所以网络输出结果很差，根本达不到函数逼近的目的，并且每次运行的结果也有所不同。;3).网络训练

;;4).网络测试;5).讨论;;;(2)频率参数设为k=1，隐层神经元数目改为n=5，结果如下面各图所示：;;3.7.2模式识别;字母A的网格图;本例中，26个字母均被定义成输入向量，每个代表字母的输入向量均有35(5x7)个元素，这样就组成了一个输入向量矩阵alphabet。期望输出向量被定义成一个变量targets，期望输出向量含有26个元素，字母在字母表中所占位置处元素为1，其他位置为0。例如，因为字母A在字母表中是第一个字母，所以其期望输出向量为(1，0，…，0);2).网络建立

根据上面提出的设计要求，输入向量具有35个元素，网络输出就是反映字母所在位置的具有26个元素的输出向量。如果网络正确，那么输入一个字母，网络就能输出一个向量，它对应位置的元素值为1，其他位置的元素值为0。

另外，网络还必须具有容错能力。因为实际情况下，网络不可能接收到一个理想的布尔向量作为输入。当噪声均值为0，标准差小于等于0.2时，系统应该能够做到正确识别输入向量，这就是网络的容错能力。;训练网络就是要使其输出向量正确代表字母向量。然而，由于噪声信号的引入，网络可能会产生不精确的输出，通过竞争传递函数compet()训练后，就能够保证正确识别带有噪声的字母向量。;%网络生成

%Characterrecognitionproblemdefinition

[alphabet,targets]=prprob;

S1=10; %定义隐层神经元数目

[R,Q]=size(alphabet);%获取输入变量数

[S2,Q]=size(targets);%获取输出变量数

P=alphabet;%P为输入矩阵

%生成BP网络

net=newff(minmax(P),[S1S2],{logsiglogsig},traingdx);net.LW{2,1}=net.LW{2,1}*0.01;%调整输出层权值

net.b{2}=n