人工神经元模型介绍.ppt

人工神经元模型 MP模型、感知器模型及其训练学习算法  大脑神经元的工作原理 树突( Dendrite) 大脑皮层,每立方毫 米中,神经元超过 连接长度超 过几公里 胞体(Soma 轴突(Axon) 突触( Synapse)  人工神经网络的历史 早期阶段(~1960’s) 1943 McCulloch和pits提出神经元的数学模型(MP模型) 1949Hebb提出权重加强的学习机理 1957 Rosenblatt感知机( perceptron)有认知学习功能 1969 Minsky专著“ perceptron证明线性(单层)感知 机不能解决XOR问题,ANN进入低潮  人工神经网络的历史 过渡期(1970’s) 低潮中,许多学者深入研究ANN理论、模型 MT的Marr提出视觉模型 Boston univ的 Grossberg全面研究ANN理论,提出 ART1,ART2,ART3自适应谐振理论模型 甘利俊一ANN的数学理论 Fukushima神经认知网络理论 芬兰的 Kohonen自组织联想记忆  人工神经网络的历史 ·高潮(1980~) 1982加州理工 Hopfield提出结点全互联ANN模型(Hop模 型),用单层ANN解决了TSP问题 19876ICNN( nternationa| Conference on nn)召开 1987加州理工Abn- mostafa, Psaitis2D联想存储输入残 缺图案也可识别 1988AT T Bell lab120*120元件的ANN 1989三菱光学ANN芯片,32个神经元识别26个字母 1989日立5“硅片集成576个神经元 1990 Bell lab黄庭钰数字光学处理器 1990BMAS400提供ANN仿真开发环境 1992SG将AN用于航天飞机控制臂 ANN已在专家系统、智能控制等领域广泛应用  神经元建模的六点假定 神经元模型是在以下六条假设的基础上建立的 每个神经元都是一个多输入单输出的信息处理单元 神经元输入分兴奋性输入和一致性输入两种类型 神经元具有空间整合特性和阈值特性 神经元输入与输出间有固定的时滞,主要取决于突触延搁 忽略时间整合作用和不应期 神经元本身是非时变的,即其突触时延和突触强度均为常数  假设1:多输入单输出 a)多输入单输出 图(a)表明,正如生物神经元有许多激励输入一祥, 人工神经元也应该有许多的输入信号,图中每个输入 的大小用确定数值x表示,它们同时输入神经元,神 经元的单输出用o表示。  假设2:输入类型:兴奋性和抑制性 (b)输入加权 生物神经元具有不同的突触性质和突触强度,其对输 入的影响是使有些输入在神经元产生脉冲输出过程中所 起的作用比另外一些输入更为重要。图(b)中对神经元 的每一个输入都有一个加权系数;称为权重值,其正 负模拟了生物神经元中突触的兴奋和抑制,其大小则代 表了突触的不同连接强度  假设3:空间整合特性和阈值特性 X h (c)输入加权求和 作为AN的基本处理单元,必须对全部输入信号进 行整合,以确定各类输入的作用总效果,图(c)表示 组合输人信号的“总和值”,相应于生物神经元的 膜电位。神经元激活与否取决于某一阈值电平,即 只有当其输入总和超过阈值时,神经元才被激活而 发放脉冲,否则神经元不会产生输出信号  呻经元的输出 (d)输入输出函数 图(d)人工神经元的输出也同生物神经元一样仅有 个,如用O表示神经元输出,则输出与输入之间的 对应关系可用图(d)中的某种非线性函数来表示,这种 函数一般都是非线性的。