人工神经网络及其应用第3讲感知机及BP网络5.pptVIP

人工神经网络及其应用第3讲 感知机及BP网络 何建华 电信系，华中科技大学 2003年2月25日 内容安排 一、内容回顾 二、感知机 三、自适应线性元件 四、内容小结 一、内容回顾 生物神经元 人工神经网络结构 神经网络基本学习算法 一、内容回顾 生物神经元 生物神经元模型 突触信息处理 信息传递功能与特点 人工神经网络结构 神经网络基本学习算法 一、内容回顾 生物神经元模型 一、内容回顾 生物神经元 人工神经网络结构 人工神经网络 人工神经元模型 常见响应函数 人工神经网络典型结构 神经网络基本学习算法 一、内容回顾 生物神经元 人工神经网络结构 神经网络基本学习算法 权值确定 Hebb学习规则 误差校正学习规则 相近（无教师）学习规则 Hebb学习规则 Donall Hebb根据生理学中条件反射机理，于1949年提出的神经元连接强度变化的规则 如果两个神经元同时兴奋(即同时被激活)，则它们之间的突触连接加强 a为学习速率，Vi, Vj为神经元i和j的输出 Hebb学习规则是人工神经网络学习的基本规则，几乎所有神经网络的学习规则都可以看作Hebb学习规则的变形 误差校正规则 用已知样本作为教师对网络进行学习 学习规则可由二次误差函数的梯度法导出 误差校正学习规则实际上是一种梯度方法 不能保证得到全局最优解