基于BP神经网络和RBF网络的非线性函数逼近问题比较研究分析.docxVIP

PAGE1 / NUMPAGES21 基于BP神经网络和RBF网络的非线性函数逼近问题比较研究 丁德凯 摘要： 人脑是一个高度复杂的、非线性的和并行的计算机器，人脑可以组织神经系统结构和功能的基本单位，即神经元，以比今天已有的最快的计算机还要快很多倍的速度进行特定的计算，例如模式识别、发动机控制、感知等。神经网络具有大规模并行、分布式存储和处理、自组织、自适应和自学习，以及很强的非线性映射能力，所以它在函数（特别是非线性函数）逼近方面得到了广泛的应用。BP神经网络和RBF神经网络，都是非线性多层前向网络，本文分别用BP（Back Propagation）网络和RBF（Radial Basis Function）网络对非线性函数f=sin(t)+cos(t)进行逼近，结果发现后者的学习速度更快，泛化能力更强，而前者的程序设计相对比较简单。 关键词：BP神经网络 ，RBF神经网络，函数逼近 0 引言 人工神经网络（Artificial Neural Networks，ANN）[1]是模仿生物神经网络功能的一种经验模型。生物神经元受到传入的刺激，其反应又从输出端传到相联的其它神经元，输入和输出之间的变换关系一般是非线性的，且对输入信号有功能强大的反应和处理能力。神经网络是由大量的处理单元（神经元）互相连接而成的网络。为了模拟大脑的基本特性，在神经科学研究的基础上，提出了神经网络的模型。但是，实际上神经网络并没有完全反映大脑的功能，只是对生物神经网络进行了某种抽象、简化和模拟。神经网络的信息处理通过神经元的互相作用来实现，知识与信息的存储表现为网络元件互相分布式的物理联系。神经网络的学习和识别取决于各种神经元连接权系数的动态演化过程。 神经网络的发展与神经科学、数理科学、认知科学、计算机科学、人工智能、信息科学、控制论、机器人学、微电子学、心理学、微电子学、心理学、光计算、分子生物学等有关，是一门新兴的边缘交叉学科。当前，它在许多领域有重要的作用。例如，模式识别和图像处理；印刷体和手写字符识别、语音识别、签字识别、指纹识别、人体病理分析、目标检测与识别、图像压缩和图像复制等。控制和优化：化工过程控制、机器人运动控制、家电控制、半导体生产中掺杂控制、石油精炼优化控制和超大规模集成电路布线设计等。预报和智能信息管理：股票市场预测、地震预报、有价证券管理、借贷风险分析、IC卡管理和交通管理。通信：自适应均衡、回波抵消、路由选择和ATM网络中的呼叫接纳识别和控制。空间科学：空间交汇对接控制、导航信息智能管理、飞行器制导和飞行程序优化管理等。函数逼近：用输入向量和相应的输出向量训练一个网络以逼近一个函数。 函数逼近是神经网络的一个重要的应用，即从训练样本出发，对未知函数进行非线性逼近。函数逼近不仅在纯数学和应用数学领域有意义，而且在工程和物理学领域也非常有用。通过神经网络进行函数逼近已被广泛地应用于系统辨识与建模、信号处理及模式识别等多个方面。由于神经网络具有大规模并行、分布式存储和处理、容错性、自组织、自适应和自学习，以及很强的非线性映射能力，这使得他在函数逼近方面比传统的方法更具有优势。其优势主要在当数据本身需决定的模式特征不明确、数据模糊或者含有噪声、非线性等情况下体现出来。对于许多难以逼近的复杂非线性函数，神经网络可以用通过对训练数据的挖掘逐步计算网络连接的权值，从而提出一个统一的逼近数学模型。近年来，各种函数逼近算法取得了巨大进展，而网络的拓扑结构直接影响网络对函数的逼近能力和效果。因此，在实际应用中，应根据具体问题，选择一个合适的网络结构。本文主要比较了目前运用最广泛的两种方法：BP网络和RBF网络，逼近同一个非线性函数f=sin(t)+cos(t)，对其过程和结果进行了比较研究。 1 人工神经网络原理 1.1 生物神经元 神经元是大脑处理信息的基本单元，人脑大约由1011个神经元组成，神经元互相连接成神经网络。神经元以细胞体为主体，由许多向周围延伸的不规则树枝状纤维构成的神经细胞，其形状很像一棵枯树的枝干。主要由细胞体、树突、轴突和突触(Synapse，又称神经键)组成 。生物神经元传递信息的过程为多输入、单输出，神经元各组成部分的功能来看，信息的处理与传递主要发生在突触附近，当神经元细胞体通过轴突传到突触前膜的脉冲幅度达到一定强度，即超过其阈值电位后，突触前膜将向突触间隙释放神经传递的化学物质，突触有两种类型，兴奋性突触和抑制性突触。前者产生正突触后电位，后者产生负突触后电位。 图1-1：生物神经元示意图 1.2人工神经网络定义 人工神经网络（articles neural network，ANN）结构和工作机理基本上以