第4A章误差反传算法及BP网络.ppt

人工神经网络及应用 主讲 何东健 第四章 误差反传播算法与BP网络 反向传播网络(Back-Propagation Network，BP网络)是将W-H学习规则一般化，对非线性可微函数进行权值训练的多层网络。 BP网络用途： 1)函数逼近：用输入矢量和输出矢量训练网络逼近一个函数； 2)模式识别：用特定的输出矢量将它与输入矢量联系起来； 3)分类：把输入矢量以所定义的合适方式进行分类； 4)数据压缩：减少输出矢量维数以便传输或存储。 实际应用中， 80％～90％的人工神经网络模型是采用BP网络或它的变化形式，是前向网络的核心部分，体现了人工神经网络最精华的部分。 4.1 误差反传算法 有隐层的多层感知器能提高网络的分类能力，但权值调整算法没有解决。 1986，Rumelhart和McCelland提出具有非线性连续变换函数的多层感知器的BP算法，实现了多层感知器的设想。多层感知器多采用BP算法，所以，通常将其称为BP网络。 首先学习基于BP算法的多层感知器模型。 4.1.1 BP网络模型与结构 应用最多的是具有单隐层的BP网络。一个具有r个输入和一个隐含层的神经网络模型结构如图所示。（Matlab Help中常见表示） BP网络与前面介绍过的模型除了是多层网络之外，其主要差别也表现在激活函数上。 （1）BP网络的激活函数必须是处处可微的，所以它