神经网络预测法课件.pptVIP

神经网络预测法;什么是数学建模; 一、有导师学习神经网络的原理； matlab实现； BP、RBF在预测、分类中的应用; PNN在分类中的应用 ;人工神经网络产生背景;大脑神经系统 ;神经元模型;;常见的几类激活函数;人工神经网络＝神经元＋连接;神经网络的结构;;单层前馈神经网络;多层前馈神经网络;;二、前馈神经网络的学习;;训练样本： ;;学习;BP（反向传播）神经网络原理;二、BP网络的学习算法;;2、误差反向传播;;BP学习过程 ;BP网络学习算法的改进;基于Levenberg-Marquardt法的BP改进算法;BP网络的Matlab工具箱函数;样本：{p1, t1}, {p2, t2}, …, {p50, t50} p1=[0.1,0.2], t1=0.7; p2=[0.98, 0.75], t2=0.8; …… p50=[0.87, 0.6], t50=0.2 如何创建一个三层BP神经网络学习样本？设隐含层神经元个数为6.;BP神经网络的Matlab工具箱函数;BP神经网络的Matlab工具箱函数;BP神经网络用于预测，分类; 要分析网络模型的泛化能力，应该也必须用非训练样本（称为测试样本）误差的大小来表示和评价，这也是将总样本分成训练样本和非训练样本主要原因之一。最直接和客观的指标是从总样本中随机抽取的非训练样本（测试样本）误差是否和训练样本的误差一样小或稍大。非训练样本误差很接近训练样本误差或比其小，一般可认为建立的网络模型已有效逼近训练样本所蕴含的规律，否则，若相差很多（如几倍、几十倍甚至上千倍）就说明建立的网络模型并没有有效逼近训练样本所蕴含的规律，而只是在这些训练样本点上逼近而已。;2、创建/训练BP神经网络: newff, train 创建前需要确定网络的结构： ;3、仿真测试：T_sim=sim(net, P_test) 网络创建并训练完成以后，将测试集的输入变量送 入网络，网络的输出即为预测结果 ;BP神经网络做预测/分类的步骤 ;例1、人口预测 以下是从《北京统计年鉴》中得到的 1983-2013年的北京城近郊区户籍人口统计结果。建立人工神经网络模型，预测2014年的北京城近郊区户籍人口;北京市人口数统计表：;产生训练集 /测试集;问题分析;数据处理后的样本数据：;%创建网络 net=newff(minmax(P_train),minmax(T_train),6);;%仿真测试 T_sim=sim(net, P_test); %性能评价??计算测试样本的相对误差 Erro=abs(T_sim-T_test)./T_test; ;问题求解：;;问：如果抓到三只新的蚊子，它们的触角长和翼长分别为(l.24,1.80); (l.28，1.84)；（1.40，2.04）．问它们应分别属于哪一个种类？ ;产生训练集 /测试集;样本有15个，即 , p=1,…,15; j=1, 2; 对应15个输出。 期望输出： 当t(1)=0.9 时表示属于Apf类，t(2)=0.1表示属于Af类。 为什么不令t(1)=1， t(2)=0作为期望输出？ 隐含层采用S形函数，输入值接近无穷时，输出才为0或1。因此会导致权值W趋于无穷。 建模：（输入层，隐含层，输出层，每层的元素应取多少个？） 建立神经网络（2-2-1） ;总样本有15个: p =[1.78,1.14],t =0.9 ;Step 2：创建BP神经网络(newff);产生训练集 /测试集;Radial Basis Function Networks (径向基函数网络) 只有一个隐含层，隐层单元采用径向基函数 输出为隐层的线性加权求和 输入(x1…..xm…..xM)到隐层单元之间权值为 1 、隐单元?1…. ?i……. ?N的激励函数为RBF、隐单元到输出单元(y1…..yj…..yJ）之间的权值wij为可调且输出是各隐单元输出的线性求和的一种前馈网络，称为RBF网络,它是一种简化了计算且可实现任意非线性映射的三层前馈网络。 ;; RBF神经网络的MATLAB工具箱函数 1、RBF网络的精确设计 函数newrbe用于创建一个精确的RBF网络：隐含层神经元数目确定（与训练集样本数目相同），权值和阈值由线性方程组直接解出。其调用格式如下： net=newrbe(P,T,spread) P,T－输入矢量、目标矢量。 spread－扩展常数，缺省为1.相当于σ。 ;2、RBF网络的有效设计 ne