遥感影像识别-第六章 神经网络在模式识别中的应用 Part Ⅰ_PPT课件.pptVIP

常州市土地利用总体规划（2006-2020年）大纲 遥感影像识别第六章:神经网络在模式识别中的应用 Part Ⅰ 1. 主要内容 概 论 神经元与网络结构 感知器模型 反向传播网络模型 遥感图像处理试验 1.1 神经网络的研究发展史 1.1.1 第一次神经网络研究高潮 对大脑神经元的研究表明，当其处于兴奋状态时，输出侧的轴突就会发出脉冲信号，每个神经元的树状突起与来自其它神经元轴突的互相结合部(此结合部称为Synapse，即突触)接收由轴突传来的信号。如果一神经元所接收到的信号的总和超过了它本身的“阈值”，则该神经元就会处于兴奋状态，并向它后续连接的神经元发出脉冲信号。 1943年，W．S．McCulloch和W．Pitts根据上述研究发表了他们的神经元模型，通常称为MP模型。 1949年，D.O.Hebb提出了神经元的学习法则，即Hebb法则。 50年代末，F．Rosenblatt基于上述原理提出了一种模式识别机，即感知机(Perceptron)模型。 感知机是现代神经计算的出发点。Block于1962年用解析法证明了感知机的学习收敛定理。正是由于这一定理的存在，才使得感知机的理论具有实际的意义，并引发了60年代以感知机为代表的第一次神经网络研究发展的高潮。 M．Minsky和S.Papert进一步发展了感知机的理论，他们把感知机定义为一种逻辑函数的学习机。 B．Widraw在稍后于感知机一些时候提出了Adline分类学习机。它在结构上与感知机相似，但在学习法则上采用了最小二乘平均误差法。 1961年，E．R．Caianiello提出了能实现记忆和识别的神经网络模型，它由学习方程式和记忆方程式两部分组成。 遗憾的是感知机只能对线性可分离的模式进行正确的分类。当输入模式是线性不可分离时，则无论怎样调节突触的结合强度和阈值的大小也不可能对输入进行正确的分类。 1.1.2 第二次神经网络研究高潮 1982年，美国物理学家Hopfield对神经网络的动态特性进行了研究，提出了所谓Hopfield神经网络模型。 以Rumelhart为首的PDP(Parallel Distributed Processing)并行分布处理研究集团对联结机制(connectionist)进行了研究。 T．J．Sejnowski等人还研究了神经网络语音信息处理装置。 这些成功的研究对第二次神经网络研究高潮的形成起了决定性的作用。 1.1.3存在的问题 神经网络识别机的原型是感知机，而BP只是学习方法改进了的感知机，所以把它当作识别机械时，可能存在着中间层神经元的个数会很庞大、学习时间太长、结合系数的范围太宽等严重缺点。 当把Hopfield神经网络模型和波尔兹曼机用作最优解的求解机时，还需要弄清楚该模型对具体的对象是否适用。当把神经网络用于运动控制装置时，另一个重要的问题是如何获得自组织的运动模式。 综上所述，神经网络的研究虽然时有起伏，出现了研究的高潮与低潮，但总的方向无疑还是正确的。 1.2 神经网络的研究概况 神经网络的研究主要可分为以下三个方面： 1．大脑和神经系统的信息处理原理。 2．构造能实现信息处理的神经网络模型。 3．能实现信息处理基本原理的技术研究－－神经计算机。 美国军方，认为神经网络技术是比原子弹工程更重要的技术。美国国防部(DARPA)曾宣布执行一项总投资为4亿美元的八年计划，其主要研究目标为：连续语音信号识别、声纳信号识别、目标识别及跟踪等。 日本通产省早在1988年也提出了所谓人类尖端科学计划(Human Frontier Science Program)，即所谓的第六代计算机计划，研制能模拟人类智能行为的计算机系统。 到目前为止，已经发表了多达几十种的神经网络模型，它们具备不同的信息处理能力，典型的神经网络模型如表1.2所示。 1987年6月21至24日在美国加州圣地亚哥(San Diego)召开的第一届神经网络国际会议 ; 1988年，我国在北京召开了神经网络的国际研究工作会议，并出版了论文集。 关于神经网络的主要国际性杂志有： (1)Neural Networks(国际神经网络协会会刊) (2)IEEE Transactions on Neural Networks (3)IEEE Transactions on Parallel Distributed System (4)Connections Science (5)Neurocomputing (6)Neural Computation (7)International Journal of Neural Systems