基于RBF网络的非线性函数回归的研究报告方案.docVIP

基于RBF网络的非线性函数回归的RBF网络能够逼近任意的非线性函数，可以处理系统内的难以解析的规律性，具有良好的泛化能力，并有很快的学习收敛速度，已成功应用于非线性函数逼近、时间序列分析、数据分类、模式识别、信息处理、图像处理、系统建模、控制和故障诊断等。 1)它是一种前向网络。网络隐层节点的非线性变换把线性不可分问题转化为线性可分问题。 2)隐单元的激活函数通常为具有局部接受域的函数，即仅当输入落在输入空间中一个很小的指定区域中时，隐单元才作出有意义的非零响应。因此，RBF网络有时也称为局部接受域网络。 3)RBF网络的局部接受特性使得其决策时隐含了距离的概念，即只有当输入接近RBF网络的接受域时，网络才会对之作出响应。这就避免了BP网络超平面分割所带来的任意划分特性。 4)在RBF网络中，输入层至输出层之间的所有权重固定为1，隐层RBF单元的中心及半径通常也预先确定，仅隐层至输出层之间的权重可调。RBF网络的隐层执行一种固定不变的非线性变换，将输入空间Rn映射到一个新的隐层空间Rh，输出层在该新的空间中实现线性组合。显然由于输出单元的线性特性，其参数调节极为简单，且不存在局部极小问题。 5)一般RBF网络所利用的非线性激活函数形式对网络性能的影响并非至关重要，关键因素是基函数中心的选取。 RBF神经网络除了具有一般神经网络的优点，如多维非线性映射能力，泛化能力，并行信息处理能力等，还具有很强的聚类分析能力，学习算法简单方便等优点；径向基函数(RBF) 神经网络是一种性能良好的前向网络L利用在多维空间中插值的传统技术, 可以对几乎所有的系统进行辩识和建模L它不仅在理论上有着任意逼近性能和最佳逼近性能, 而且在应用中具有很多优势[1 ]L 如和Sigmoid 函数作为激活函数的神经网络相比, 算法速度大大高于一般的BP 算法。 RBF作为隐单元的“基”构成隐含层空间，这样就可以将输入矢量直接（即不需要通过权连接）映射到隐空间。,就是应用神经网络能逼近任意非线性函数这一特性而设计的。用于非线性函数逼近的前向神经网络主要有两种:BP 网络和RBF 网络。基于BP 网络的非线性函数逼近虽然在理论上是可行的,但是其学习效率低、收敛速度慢、易陷于局部极小状态;网络的泛化及适应能力较差等缺点,限制了其在实际中的应用效果[2]。而RBF 网络既有生物背景又符合逼近理论,当中心值选择适当时,很少的神经元就可获得很好的逼近效果,它还具有唯一最佳逼近点的优点;其网络的隐层与输出层的连接权与输出成线性关系,可以采用保证全局收敛的线性优化算法[3]。由于RBF 网络在逼近能力、学习速度等方面均优于BP 网络。因此，本文提出了基于RBF 神经网络的非线性回归的实现方法。 二、RBF神经网络原理 2.1、RBF神经网络结构 RBF 神经网络即径向基函数神经网络（Radical Basis Function）。径向基函数神经网络是一种高效的前馈式神经网络，它的设计思想和BP网络完全不一样。将复杂的模式分类问题非线性的投射到高维空间将比投射到低维空间更可能是线性可分的。也就是说这个问题在低维空间不一定是线性可分的，但如果把它映射到高纬度的空间去，在那里就可能是线性可分的。这就是RBF网络的原理。RBF将问题转换为线性可分之后便没有了BP网络的局部极小值问题。但是RBF需要比BP网络更多的隐含层神经元。它具有其他前向网络所不具有的最佳逼近性能和全局最优特性，并且结构简单，训练速度快。同时，它也是一种可以广泛应用于模式识别、非线性函数逼近等领域的神经网络模型。径向基函数(RBF)神经网络是一种局部逼近的神经网络，它模拟了人脑中局部调整，相互覆盖接受域的神经网络结构。现已证明它能以任意精度逼近任意连续函数。最基本的RBF 神经网络如图1 所示，是具有单隐层的3 层前馈网络，其中每1层都有着完全不同的作用。输入层由感知单元组成，它将网络与外界环境连接起来；第2层神经网络的作用是完成输入空间到隐层之间的非线性变换，大多数情况下隐层空间有较高的维数；第3 层为输出层，它为作用于输入层的激活模式提供响应。 图1 其中，R代表输入层并指出输入维数；代表由径向基神经元构成的隐层并指出神经元数目；是线性输出层。 当RBF的中心点确定以后，这种映射的关系也就确定了。而隐含层空间到输出空间的映射是线性的，即网络的输出是隐单元输出的线性加权和。此处的权即为网络可调参数。由此可见，从总体上看，网络由输入到输出的映射也是非线性的，而网络输出对可调参数而言又是线性的。这样的网络的权就可以由线性方程直接解出，从而大大加快学习速度并避免局部极小问题。RBF神经网络学习算法需要求解的参数有3个：基函数的中心，方差以及隐含层到输出层的权值。根据径向基函数中心选取方法的不同，RBF网络