神经网络-神经元与网络结构.pptVIP

人工神经网络及其应用 神经网络基础知识 ;内容安排 一、生物神经元 二、人工神经网络结构 三、神经网络基本学习算法 ;一、生物神经元;1.1 生物神经元; 生物神经元示意图 ;1.2 突触的信息处理;2.1 人工神经网络 ; 通用模型 求和操作 响应函数;2.2 人工神经元模型 ;(a)阈值单元 (b)线性单元 (c)(d)非线性单元：Sigmoid函数 ;2.3 常见神经元响应函数;神经元的模型确定之后，一个神经网络的特性及能力主要取决于网络的拓扑结构及学习方法 人工神经网络连接的几种基本形式 前向网络 (a) 从输出到输入有反馈的前向网络 (b) 用来存储某种模式序列 层内互连前向网络 (c) 限制层内同时动作的神经元；分组功能 相互结合型网络 (d);神经网络的典型结构 ;权值确定 Hebb学习规则 误差校正（纠错）学习规则 相近（无教师）学习规则 ;人工神经网络连接权的确定通常???两种方法 根据具体要求，直接计算，如Hopfield网络作优化计算 通过学习得到的。大多数人工神经网络都采用这种方法 学习方法是人工神经网络研究中的核心问题;Donall Hebb根据生理学中条件反射机理，于1949年提出的神经元连接强度变化的规则 如果两个神经元同时兴奋(即同时被激活)，则它们之间的突触连接加强 a为学习速率，Vi, Vj为神经元i和j的输出 Hebb学习规则是人工神经网络学习的基本规则，几乎所有神经网络的学习规则都可以看作Hebb学习规则的变形 ;用已知样本作为教师对网络进行学习 学习规则可由二次误差函数的梯度法导出 误差校正学习规则实际上是一种梯度方法 不能保证得到全局最优解 要求大量训练样本，收敛速度慢 对样本地表示次序变化比较敏感 ;3.3 无教师学习规则;小结 一、生物神经元 二、人工神经网络结构 三、神经网络基本学习算法