第06讲反向传播网络.docx

W W word 第 06 讲 反向传播网络 给定任意 0 和任意 L2 函数 f :[0,1]n Rn Rm ，存在一个三层 BP 网络，可以在 任意 平方误差精度内逼近 f 。 实现任意 N 个输入向量构成的任何布尔函数的前向网络所需权系数数目为： N 1 log 2 N 我们前面讲到的感知器神经网络和线性神经元网络均为单层网络结构， 其传递函数都十 分简单，感知器为单边符号函数，线性神经网络为纯线性函数。在此， 我们将上面网络结构 进展推广，推广到多层网络，并且将传递函数变为非线性可微分函数，这就是 BP网络。 反向传播网络 (Back — Propagation Network ，简称 BP 网络)是将 W— H学习规如此一般 化，对非线性可微分函数进展权值训练的多层网络。 由于感知器神经网络中神经元的变换函数采用符号函数， 其输出为二值量， 因此它主要 用于模式分类。 BP 网络是一种多层前向反应神经网络，其神经元的变换函数是 S 型函数， 因此输出量为 0 到 1 之间的连续量， 它可以实现从输入到输出的任意的非线性映射。 由于其 权值的调整采用反向传播〔 Backpropagation 〕的学习算法，因此被称为 BP网络。 BP网络主要用于： 1) 函数逼近：用输入矢量和相应的输出矢量训练一个网络逼近—个函数； 2) 模式识别：用一个特定的输出矢量将它与输入矢量联系起来； 3) 分类：把输入矢量以所定义的适宜方式进展分类； 4) 数据压缩：减少输出矢量维数以便于传输或存储。 在人工神经网络的实际应用中， 80％～ 90％的人工神经网络模型是采用 变化形式， 它也是前向网络的核心局部， 表现了人工神经网络最精华的局部。 BP 网络或它的 在人们掌握反 向传播网络的设计之前， 感知器和自适应线性元件都只能适用于对单层网络模型的训练， 只 是后来才得到了进一步拓展。 1 / 19 word 6． 1 BP 网络模型与结构 一个具有 r 个输入和一个隐含层的神经网络模型结构如图 6． 1 所示。 图 6． 1 具有一个隐含层的神经网络模型结构图 感知器和自适应线性元件的主要差异在激活函数上：前者是二值型的，后者是线性的。 BP 网络具有一层或多层隐含层，除了在多层网络上与前面已介绍过的模型有不同外，其主 要差异也表现在激活函数上。 BP 网络的激活函数必须是处处可微的，所以它就不能采用二 值型的阀值函数 {0， 1} 或符号函数 { — 1， 1}， BP 网络经常使用的是 S 型的对数或正切激活 函数和线性函数。 图 6． 2 所示的是 S 型激活函数的图形。可以看到 f 〔·〕是一个连续可微的函数，其一 阶导数存在。 对于多层网络， 这种激活函数所划分的区域不再是线性划分， 而是由一个非线 性的超平面组成的区域。它是比拟柔和、光滑的任意界面，因而它的分类比线性划分准确、 合理， 这种网络的容错性较好。 另外一个重要的特点是由于激活函数是连续可微的， 它可以 严格利用梯度法进展推算， 它的权值修正的解析式十清楚确， 其算法被称为误差反向传播法， 也简称 BP算法，这种网络也称为 BP 网络。 2 / 19 word 图 6. 2 BP 网络 S 型激活函数 因为 S 型函数具有非线性放大系数功能，它可以把输入从负无穷大到正无穷大的信号， 变换成 -1 到 l 之间输出，对较大的输入信号，放大系数较小；而对较小的输入信号，放大 系数如此较大，所以采用 S 型激活函数可以去处理和逼近非线性的输入 / 输出关系。不过， 如果在输出层采用 S 型函数， 输出如此被限制到一个很小的 X 围了， 假如采用线性激活函数， 如此可使网络输出任何值。所以只有当希望对网络的输出进展限制，如限制在 那么在输出层应当包含 S 型激活函数， 在一般情况下， 均是在隐含层采用 输出层采用线性激活函数。 BP网络的特点： 1、 输入和输