BP算法及径向基函数网络.docVIP

PAGE PAGE 26 BP算法及径向基函数网络 B0503194班 高翔 1050319110 杨柳青 1050319113 题目1： 2.5 利用BP算法及Sigmoid算法，研究以下各函数的逼近问题： 解：该题可以采用BP神经网络或者是径向基函数网络来解决，首先给出我们利用BP网络的解决方法，关于如何利用径向基函数网络来解决问题，放在2.6 题中的通过径向基函数网络解决XOR问题一起讨论。 概述 人工神经网络作为一门20世纪中叶起步的新技术，随着其理论的逐步完善，其应用日益广泛，应用领域也在不断拓展，已经在各个工程领域里得到了广泛的应用。通常神经网络技术主要应用在以下方面。 模式信息处理和模式识别。 最优化问题计算。 信息的智能化处理。 复杂控制。 信号处理。 在1959年，当时的两位美国工程师B.Widrow 和M.Hoff提出了自适应线形元件。在 1969年，人工智能的创始人之一M.Minsky和S.Papert指出单层感知器只能够进行线形分类，对线形不可分的输入模式，哪怕是简单的异或逻辑运算，单层感知器也无能为力，而解决其的唯一方法就是设计训练出具有隐含层的多层神经网络。这一难题在1986年得到了解决。 1986年，D.E. Rumelhart等人提出解决多层神经网络权值修正的算法——误差反向传播法（Error Back-Propagation）。这种算法也通常被应用在BP（Back-Propagation Network）中。 在目前，在人工神经网络的实际应用中，绝大部分的神经网络模型（80%--90%）是采用BP网络和它的变化形式，它也是前向网络的核心部分，并体现了人工神经网络最精华的部分。在人们掌握反向传播网络的设计之前，感知器和自适应线形元件都只能适用于对单层网络模型的训练，只是后来才得到了进一步的发展。 BP网络主要应用于： 函数逼近。用输入矢量和相应的输出矢量训练一个网络逼近一个函数。 模式识别。用一个特定的输出矢量将它与输入矢量联系起来。 分类。把输入矢量以定义的合适方式进行分类。 数据压缩。减少输出矢量维数以便于传输或存储。 实验原理 BP网络模型与结构： 基于BP算法的多层前馈型网络模型的结构如图。 这种网络不仅有输入节点、输出节点，而且还有一层或多层隐含节点。其同感知器和自适应线形元件的主要差别在激活函数上。BP网络的激活函数必须是处处可微的，所以它就不能够采用二值型的阀值函数{0,1}，或者是符号函数{-1，1}。BP网络通常使用的是S型的对数或者是正切激活函数和线形函数。 对于S型函数，也即sigmoid函数，是一个连续可微的函数，其一阶导数存在。对于多层网络，这种激活函数所划分的区域不再是线形划分，而是由一个非线性的超平面组成的区域。它是比较柔和、光滑的任意平面，因而它的分类比线形划分精确、合理，而且这种网络的容错性也比较好。另外一个重要的特点就是由于激活函数是连续可微的，它可以严格的用梯度法进行推算，它的权值修正的解析式十分明确，其算法被称为误差反向传播法，简称BP算法，这种网络也称为BP网络。 BP网络模型的算法： BP网络的产生归功于BP算法的获得。BP算法属于δ算法，是一种监督式的学习算法。其主要思想为：对于q个输入学习样本：P1，P2，P3，…Pq，已知与其对应的输出样本为：T1 ，T2， … Tq 。学习的目的是用网络的实际输出与目标输出之间的误差修正其权值使得实际的输出同目标输出之间的误差尽量小。即：使网络的输出层的误差平方和达到最小。它是通过连续不断地在相对于误差函数斜率下降的方向上计算网络权值和偏差的变化而逐渐逼近目标的。每一次权值和偏差的变化都与网络误差的影响成正比，并以反向传播的方式传递到每一层。 通常的BP算法由两部分组成：信息的正向传递和误差的反向传播。在正向传播过程中，输入信息从输入经隐含层逐层计算传向输出层，每一层神经元的状态只影响下一层神经元的状态。如果输出层没有得到期望的输出值，则计算输出层的误差变化值，然后转向反向传播，通过网络将误差信号沿原来的连接通路反传回来修改各层神经元的权值直至达到目标。 BP网络的训练过程 初始化，选定合理的网络结构，置所有的可调参数（权和阀值）为均匀分布的较小数值。 对每个输入样本作如下运算： 前向计算：对第l层的j单元： 其中为前一层（）层的单元i送来的工作信号（）时置，，若单元j的作用函数为Sigmoid函数，则 , 且 , 若神经元j 属于第一隐层（即），则有 若神经元j属于输出层（即），则有 ，且 反向计算： 对输出单元 ： 对隐单元： 按下式修正权值： ，输入新的样本（或者新一个周期的样本） 直到符合设定的要求。训练时各周期中样本的输入顺序要重新随机排列。 为