预测与决策的数量方法探究.doc

神经网络在多元非线性预测分析中的应用 摘要 在很多实际应用问题中，通常会涉及很多变量，需要研究变量之间的关系，很多时候变量之间的关系是不确定的，需要用一个函数来近似表示这种关系。数据拟合就是根据变量的观察数据研究某些变量之间的近似函数关系，用来帮助我们认识事物的内在规律和本质属性。但在实际应用中经常会越到一些复杂的非线性系统，这些系统状态方程复杂，难以用数学方法准确建模。在这种情况下，多元统计分析的数据拟合方法是基本失效的，但我们可以建立神经网络表达这些非线性系统。该方法把未知系统看成是一个黑箱，用系统输入输出数据训练神经网络，使网络能够表达该未知函数，然后就可以用训练好的神经网络预测系统输出。 关键词：BP神经网络，多元统计分析，径向基网络 一、线性回归问题 用线性回归方法拟合人的耗氧能力y与以下诸因素（x1表示年龄，x2表示体重，x3表示跑1500米所用时间，x4静止时心速，x5表示跑步后心速）之间的关系： 在matlab中做回归分析 编写程序如下： 得到 由分析表可以看出其中x2和x4的p值都远大于0.0001是极不显著的，所以将x2和x4剔除之后利用MATLAB做回归分析。 剔除变量x2和x4之后得到： 得到方程式： 虽然上次剔除了最大显著的线性项，并且整个方程式极显著的，但不认为上式就是最好的回归方程，还应尝试做非线性回归分析。 以下为做二次回归分析得到的分析表： 将上述三种表达式的拟合效果图合并到一个图中可以看到完全二次回归的拟合效果较好，5重和三重线性回归拟合效果差不多。 二、一元非线性回归分析 找出年龄与头尾之间的关系 画出y与x之间的散点图，由图可以看出满足Logistic曲线的形式，在matlab中调用nlinfit函数找出变量之间的关系 function y = HeadCir1(beta, x) y = beta(1) * exp(beta(2) ./ (x + beta(3))); [beta,r,J,COVB,mse] = nlinfit(x,y,@HeadCir1,[53,-0.2604,0.6276], options); 得到y与x的表达式为： 以上分析的问题都可以应用多元统计分析理论来解决，但对有些非线性问题，用传统的统计理论是无法求解的。对多元复杂的非线性系统问题我们可以建立神经网络来模拟复杂非线性系统之间的关系，将复杂的数学表达式存储与网络中，对给定的任一输入通过网络计算之后就可以得到我们想要的输出。 举一个简单的非线性系统如下图所示： 对此我们可以建立神经网络来拟合z与y及x之间的关系。在matlab中建立两种神经网络（BP神经网络和径向基神经网络），并将这两种网络的预测输出做比较，对比他们的拟合效果。 BP神经网络是一种多层前馈神经网络，该网络的主要特点是信号前向传递，误差反向传递。在前向传递中，输入信号从输入层经隐含层逐层处理，直至输入层。每层的神经元只影响下一层神经元的状态。如果输出层得不到期望输出，则转入反向传播，根据预测误差调整网络权值和阈值，从而使BP神经网络预测输出不断逼近期望输出。 BP神经网络的拓扑结构图如下图所示： X1,X2…Xn是BP神经网络的输入值，Y1,Y2…Yn是网络的预测值，,为BP神经网络的权值。BP神经网络可以看成是一个非线性函数，网络输入值和预测非标为该函数的因变量和自变量。当输入节点书为N时，输出节点为M时，该网络就表达了从N个自变量到M个因变量的函数映射关系。 数学计算公式为： 隐含层输出：，其中f为隐含层激励函数，下面层序用到的为 BP神经网络的预测输出为： 预测误差： 权值更新：其中为学习率。 阈值更新： 然后判断迭代是否结束，如没有结束则继续训练 算法流程 BP神经网络在MATLAB中编写程序如下： 先从2000组样本数据中随机提取1900组作为训练数据，另外100组作为测试数据。由于输入维有两维，故选择输入层节点数为2个节点，隐含层节点数选择为5，并构造双隐含层节点的神经网络，输出只有一个Y值故选择输出层节点数为1，设定学习率为0.1，迭代300次，误差目标设为 训练是产生一个窗口如下图： 在matlab工作空间得到实际值与BP神经网络的预测值基本在小数点两位以后才开始出现误差 误差绝对值和为18.6352 由上述结果分析可知BP神经网络基本拟合了该变量之间的关系 BP网络虽然很好的拟合了变量之间的关系，但还是有一定的误差，再次建立径向基网络，看径向基网络的拟合的效果。 径向基神经网络（RBF）属于前向神经网络类型，网络的结构与多层前向网络类似，是一