模式识别：神经网络分类.pptVIP

2003.12.18 机器学习-人工神经网络 作者：Mitchell 译者：曾华军等 讲者：陶晓鹏 第5讲 神经网络分类 人工神经网络学习概述 人工神经网络提供了一种普遍且实用的方法从样例中学习值为实数、离散值或向量的函数。 人工神经网络对于训练数据中的错误健壮性很好。 人工神经网络已被成功应用到很多领域，例如视觉场景分析，语音识别，机器人控制。 其中，最流行的网络和算法是20世纪80年代提出的BP网络和BP算法， BP算法使用梯度下降法来调节BP网络的参数以最佳拟合由输入-输出对组成的训练集合。 BP算法概述 1、BP算法的出现 非循环多级网络的训练算法 UCSD PDP小组的Rumelhart、Hinton和Williams1986年独立地给出了BP算法清楚而简单的描述 1982年，Paker就完成了相似的工作 1974年，Werbos已提出了该方法 2、弱点：训练速度非常慢、局部极小点的逃离问题、算法不一定收敛。 3、优点：广泛的适应性和有效性。 BP网络的基本结构 确定BP网络的拓扑结构 在开始训练之前，需要确定网络的拓扑结构：出入层神经元的个数、隐含层神经元的层数及每一层神经元的个数、输出层神经元的个数。 对训练样本中的每一属性的值进行归一化，使其值落在（0，1）区间，有助于加快学习过程。 对于离散的属性值，要进行合适的编码。 BP网一般都选用二级网络。 实验表明：增加隐