MATLAB神经网络工具箱1.pptxVIP

MATLAB神经网络工具箱1会计学第1页/共18页BP网络的初始化 newff 函数在建立网络对象的同时, 自动调用初始化函数, 根据缺省的参数设置网络的连接权值和阈值. 使用函数init可以对网络进行自定义的初始化. 通过选择初始化函数, 可对各层连接权值和阈值分别进行不同的初始化.第2页/共18页BP网络的学习规则 权值和阈值的调节规则采用误差反向传播算法(back propagation). 反向传播算法分二步进行，即正向传播和反向传播。 1．正向传播 输入的样本从输入层经过隐单元一层一层进行处理，通过所有的隐层之后，则传向输出层；在逐层处理的过程中，每一层神经元的状态只对下一层神经元的状态产生影响。在输出层把现行输出和期望输出进行比较，如果现行输出不等于期望输出，则进入反向传播过程。2．反向传播 反向传播时，把误差信号按原来正向传播的通路反向传回，并对每个隐层的各个神经元的权系数进行修改，以望误差信号趋向最小。BP算法实质是求取误差函数的最小值问题。这种算法采用非线性规划中的最速下降方法，按误差函数的负梯度方向修改权系数。第3页/共18页BP网络的快速学习算法与选择 MATLAB神经网络工具箱对常规BP算法进行改进,提供了一系列快速算法,以满足不同问题的需要学习算法适用问题类型收敛性能占用存储空间其他特点trainlm函数拟合收敛快,误差小大性能随网络规模增大而变差trainrp模式分类收敛最快较小性能随网络训练误差减小而变差trainscg函数拟合模式分类收敛较快性能稳定中等尤其适用于网络规模较大的情况trainbfg函数拟合收敛较快较大计算量岁网络规模的增大呈几何增长traingdx模式分类收敛较慢较小适用于提前停止的方法第4页/共18页BP网络的训练 利用已知的”输入—目标”样本向量数据对网络进行训练,采用train 函数来完成. 训练之前, 对训练参数进行设置net = train(net, P, T) 训练参数 参数含义 默认值net.trainParam.epochs训练步数100net.trainParam.show显示训练结果的间隔步数25net.trainParam.goal训练目标误差0net.trainParam.time训练允许时间INfnet.trainParam.lr学习率0.01第5页/共18页BP网络的设计(1)网络层数 已经证明,单隐层的BP网络可以实现任意非线性映射. BP网络的隐层数一般不超过两层.输入层的节点数 输入层接收外部的输入数据, 节点数取决于输入向量的维数输出层的节点数 输出层的节点数取决于输出数据类型和该类型所需的数据大小.对于模式分类问题,节点数为第6页/共18页BP网络的设计(2)隐层的节点数 隐层的节点数与求解问题的要求,输入输出单元数多少有关. 对于模式识别/分类的节点数可按下列公式设计其中为隐层节点数,为输入节点数,为1~10之间的整数传递函数 隐层传递函数采用S型函数, 输出层采用S型函数或线性函数训练方法及其参数选择 针对不同应用, BP网络提供了多种训练学习方法.第7页/共18页BP网络设计实例采用动量梯度下降算法训练BP网络. 训练样本%定义训练样本p=[-1 -1 3 1;-1 1 5 -3]; t=[-1 -1 1 1];%创建一个新的BP网络net=newff(minmax(p),[3 1],{tansig,purelin},traingdm);%设置训练参数=1000;=0.001;=50;=0.05;=0.9;%动量因子，缺省为net=train(net,p,t); % 训练网络A=sim(net,p) %网络仿真第8页/共18页训练误差变化曲线（每次不同）训练误差变化曲线目标线第9页/共18页例1: BP网络用于曲线拟合要求设计一个简单的BP网络，实现对非线性函数的逼近。通过改变该函数的参数以及BP网络隐层神经元的数目，来观察训练时间以及训练误差的变化情况。第10页/共18页Step1: 将要逼近的非线性函数设为正弦函数k = 1; p = [-1:.05:1]; t = sin(k*pi*p); plot(p,t,-) title(要逼近的非线性函数); xlabel(时间); ylabel(非线性函数);第11页/共18页Step 2: 网络建立应用函数newff()建立BP网络结构，为二层BP网络。隐层神经元数目n可以改变，暂设为10，输出层有一个神经元。选择隐层和输出层神经元传递函数分别为tansig函数和purelin函数，网络训练算法采用trainlm第12页/共18页n = 10;net = newff(minmax(p), [n,1], {tansig purelin}, trainlm);% 对于该初始网络，可以