三、BP网及BP算法.PDFVIP

三、BP 网及BP算法 1. BP 网络结构 2. BP学习算法 3. BP算法应用例子 4. 有关BP 网和BP算法的讨论 5. BP算法的改进 1. BP 网络结构 BP 网与线性阈值单元组成的多层感知器网络 结构完全相同，只是各隐节点的激活函数使用了 第二章介绍的Sigmoidal 函数，所以BP 网也称隐节 点激活函数采用Sigmoidal 函数的多层感知器。BP 网输出节点的激活函数根据应用的不同而异：如 果多层感知器用于分类，则输出层节点一般用 Sigmoidal 函数或硬极限函数；如果多层感知器用 于函数逼近，则输出层节点应该用线性函数。 图3.8 隐节点和输出节点都使用Sigmoidal 函数的BP 网 与线性阈值单元组成的多层感知器一样，BP 网采用多层结 构，包括输入层、多个隐含层、输出层，各层间实现全连 接。如图3.8所示为隐节点和输出节点都使用Sigmoidal激活函 数的BP 网（注意：网络中没有画出各神经元的阈值）。 下面讨论图3.8所示BP 网的权值调节算法,即著名的 BP算法。此时，对BP 网的各计算节点，我们有： u w x