12人工神经网络new概述.pptVIP

人工神经网络2009-12;主要内容;人工神经网络研究的起源;生物神经元形状图;神经元;神经元模型;;神经元结构;几种常用的作用函数;1、阀值型（硬限制型） ;;2、线性型a) 全线性 ;b) 正线性;3、S型函数（Sigmoid）a) 对数正切 y=1/(e-n+1);b)双曲正切 y=tanh(n);4.辐射基函数a) 高斯函数;b)三角波函数;主要内容;人工神经网络的分类;前向网络;前向网络的特点;回归网络;;回归网络特点;互联网络;主要内容;BP网络;BP网络模型;输入输出关系;学习（训练）;MATLAB函数;绘图： plot(P,T,’*’); 训练： [net,tr]=train(net,P,T); 训练函数有很多种，如：traingd,traingdm,traingdx,trainlm 在训练之前要对网络进行初始化，并设置好训练参数。 初始化： net.iw{1,1}=W10; net.b{1}=B10; net.lw{2,1}=W20; net.b{2}=B20; ;参数设置： net.trainParam.epochs=100; %最大训练次数 net.trainParam.goal=0.01; %训练所要达到的精度 net.trainParam.show=10; %在训练过程中显示的频率 net.trainParam.lr=0.1; %学习速率 ;例1—函数逼近;解 首先定义输入样本和目标矢量 P = -1:.1:1; T = [-.9602 -.5770 -.0729 .3771 .6405 .6600 .4609 ... .1336 -.2013 -.4344 -.5000 -.3930 -.1647 .0988 ... .3072 .3960 .3449 .1816 -.0312 -.2189 -.3201]; 上述数据的图形如图所示。 ;%利用函数newff建立一个bp神经元网络 net=newff(minmax(P),[5 1],{tansig purelin},traingd,learngd,sse); %然后利用函数train对网络进行训练 net.trainParam.show=10; net.trainParam.epochs=8000; net.trainParam.goal=0.02; net.trainParam.lr=0.01; [net,tr]=train(net,P,T);; 图3至图6给出了网络输出值随训练次数的增加而变化的过程。图7给出了454次训练后的最终网络结果，以及网络的误差纪录。 同时还可以用函数sim来计算网络的输出 a1=sim(net,P); 图3 训练100次的结果 图4 训练200次的结果 图5 训练300次的结果 图6 训练400次的结果 ; 图7 训练结束后的网络输出与误差结果;BP网络设计问题;网络的层数;隐含层神经元数;初始权值的选取;学习速率;BP算法的限制与不足;BP算法的改进;带动量因子算法; 附加动量法的实质是将最后一次权值变化的 影响，通过一个动量因子来传递。以此方式，当 增加动量项后，促使权值的调节向着误差曲面底 部的平均方向变化，当网络权值进入误差曲面底 部的平坦区时， 将变得很小，于是， 从而防止了 的出现 ，有助于使网络从误差曲面的局部极小值中跳出。 ; 在MATLAB工具箱中，带有动量因子的权值修正法是用函数learngdm.m来实现的。对网络进行训练可用函数traingdm.m。我们可以用函数newff.m建立一个用附加动量法训练的BP网络： net=newff(minmax(P),[5 1],{tansig purelin},traingdm,learngdm,sse);;自适应学习速率; MATLAB工具箱中带有自适应学习速率进行反向传播训练的函数为：traingda.m。使用方法为：