课件：模式识别：神经网络分类.ppt

* * 第5讲 神经网络分类 * * 人工神经网络学习概述 人工神经网络提供了一种普遍且实用的方法从样例中学习值为实数、离散值或向量的函数。 人工神经网络对于训练数据中的错误健壮性很好。 人工神经网络已被成功应用到很多领域，例如视觉场景分析，语音识别，机器人控制。 其中，最流行的网络和算法是20世纪80年代提出的BP网络和BP算法， BP算法使用梯度下降法来调节BP网络的参数以最佳拟合由输入-输出对组成的训练集合。 * * BP算法概述 1、BP算法的出现 非循环多级网络的训练算法 UCSD PDP小组的Rumelhart、Hinton和Williams1986年独立地给出了BP算法清楚而简单的描述 1982年，Paker就完成了相似的工作 1974年，Werbos已提出了该方法 2、弱点：训练速度非常慢、局部极小点的逃离问题、算法不一定收敛。 3、优点：广泛的适应性和有效性。 * * BP网络的基本结构 * * 确定BP网络的拓扑结构 在开始训练之前，需要确定网络的拓扑结构：出入层神经元的个数、隐含层神经元的层数及每一层神经元的个数、输出层神经元的个数。 对训练样本中的每一属性的值进行归一化，使其值落在（0，1）区间，有助于加快学习过程。 对于离散的属性值，要进行合适的编码。 BP网一般都选用二级网络。 实验表明：增加隐藏层的层数和隐藏层神经元个数不一定总能够提高网络精度和表达能