基于神经网的回归分析.docVIP

神经网络在非线性回归中的应用 摘 要：本文主要介绍了神经网络在非线性回归中的应用，实例证明其回归效果优于传统的回归方法。但是标准BP算法具有收敛速度慢、易陷入局部极小点等缺陷，于是又介绍一种改进的神经网络学习算法，并进行了仿真，证明了该算法的有效性。 关键词：非线性回归 ；神经网络； BP算法 The application of Neural Network in Nonlinear-Regression Yingli Tang (Computer Science and Technology ,School of Information ,Shanghai Ocean University,China) Abstract:This paper mainly introduces the application of neural net in nonlinear regression,examples show its regression effect is superior to the traditional regression method.But the standard BP algorithm has show convergence speed,easy to fail into local minimum point and other defects,so introduced an improved neural net learning algorithm and a simulation was carried out,it prove the effectiveness of the proposed algorithm. Keywords: non-linear regression; neural net;BP algorithm 1引言 回归分析就是确立和分析某种响应(因变量Y)和重要因素(对响应有影响的自变量X)之间的函数关系。传统的回归分析就是希望找到映射的具体表达式f:y=f(x)。但要从大量的带有一定随机性的实验数据样木组（X1，Y1 ）、（X2，Y2 ）（X3，Y3 ）…（Xk，Yk ）中“回归”出映射X→Y的具体表达f的形式，通常是十分困难的。 但是人工神经网络是一种大规模并行非线性系统，其良好的非线性映射能力、强大的解决逆问题的能力和实际推广能力，使得它在工程领域中得到了广泛应用。但是标准BP算法具有收敛速度慢、易陷入局部极小点等缺陷。于是又引进一种改进的神经网络学习算法，并采用新的目标函数来进行训练，仿真结果表明了该算法的有效性。 本文主要对神经网络在非线性回归中的应用，以及改进的神经网络学习算法在非线性回归中的应用进行了简介。并比较了它们的预测精度。 2 人工神经网络非线性回归的引入 前馈神经网络在理论上只需要三层节点就能够以任意精度逼近任意的连续函数，鉴于人工神经网络在非线性领域应用的成功实践，对于非线性回归，神经网络模型也许有用武之地。基于神经网络的回归分析，希望寻找的不是具体的映射数学表达，而是通过网络对样本的进行学习训练，当网络训练完成后，其网络结构F就代表了映射X→Y。虽然这个过程不能得出简明的数学公式表达，但它却代表了更复杂的映射关系。通过这个网络结构（网络层数、各层单元数、各连接权及阈值等均确定下来)，当有一自变量x输入时，就会产生一因变量输出y，这就是网络的回想过程，这个参数被确定下来的网络就成为解决该特殊问题的“专家”，上述问题可以得到较好的解决。在计算机编程过程中，所使用的网络模型及确定的参数，可以通过类、对象等软件技术实现。需要指出的是，学习过程必须是有教师示教的学习方式，实验数据样木组（X1，Y1 ）、（X2，Y2 ）（X3，Y3 ）…（Xk，Yk ）就是学习样本，从理论上说，学习样本越多，学习效果越好。 3 基于人工神经网络的非线性回归的实践分析 在人工神经网络的发展中，误差逆传播学习算法(ErrorBack-Propagation)占有重要地位。以该算法为基础的人工神经网络简称BP网络，它是目前人工神经网络领域中应用最为广泛的模型之一。这里以BP网络为例对基于人工神经网络的非线性回归进行实践分析。 表1为取自文献【4】的实验数据，传统的回归是寻找x与y的函数关系，文献【4】给出富氏级数回归式为:表1 取自文献【4】的实验数据（某周期性函数的测定值）图1给出了基于BP神经网络的回归演化进程(网络层数:3，隐含层单元个数:6，为方便程序运算，图中对数据进行了单位变换)，图中给出了学习参考时间、神经网络回归的相关系数和剩余标准差及传统回归方法的相关系数和剩余标准的对比，由此看到，随着神经网络学习时间的延长，神经网络回归的相关系数不断提高，