第二课 感知机与BP网络 人工神经网络理论及应用课件.ppt

人工神经网络理论及应用 屈桢深 哈尔滨工业大学 神经元数学模型 神经元数学模型：向量描述 神经元数学模型——作用函数 神经元数学模型——作用函数 3．对称型阶跃函数 神经网络(前馈式)结构 单个神经元 单层神经元 多层神经元: 输入层，输出层，隐含层 学习过程就是调整权值的过程。 包含感知层，连接层和反应层。 单层感知器 用于两类模式分类时 相当于在高维样本空间中，用一个超平面将两类样本分开。 已证明 若输入的两类模式是线性可分集合（指存在一个超平面能将其分开），则算法一定收敛。 局限性 若输入模式为线性不可分集合，网络的学习算法不收敛，不能进行正确分类。 线性可分集合(1) 使用单个感知器分类线性可分集合(1) 三维空间上的两类模式，见表 使用单个感知器分类线性可分集合(2) 线性不可分集合 多层感知器 多层感知器(续) 三层感知器解决异或问题 三层感知器可识别任一凸多边形或无界的凸区域。更多层感知器网络，可识别更为复杂的图形。 多层前馈网络与BP学习算法 　多层前馈网络的反向传播 （BP）学习算法，简称BP算法，是有导师的学习，它是梯度下降法在多层前馈网中的应用。 网络结构 　　　见图，u、y是网络的输入、输出向量，神经元用节点表示，网络由输入层、隐层和输出层节点组成，隐层可一层，也可多层（图