D人工神经网络1.pptVIP

人工神经网络 Artificial Neural Networks 教材名称：《人工神经网络理论、设计及应用》 出版社：化学工业出版社 出版日期：2002年1月第1版, 2004年2月第2次印刷 出版日期：2007年9月第2版 作者：韩力群 主要参考书目 课程目的和基本要求 第1章???绪论 §1.1 人脑与计算机 §1.2 人工神经网络发展简史 §1.3 神经网络的基本特征与功能 §1.4 神经网络的应用领域 本章小结 1.1 人脑与计算机 1.1.1 人脑与计算机信息处理能力的比较 1.1.1 人脑与计算机信息处理能力的比较 1.1.1 人脑与计算机信息处理能力的比较 1.1.1 人脑与计算机信息处理能力的比较 1.1.1 人脑与计算机信息处理能力的比较 1.1.2 人脑与计算机信息处理机制的比较 1.1.2 人脑与计算机信息处理机制的比较 1.1.2 人脑与计算机信息处理机制的比较 1.1.2 人脑与计算机信息处理机制的比较 1.1.2 人脑与计算机信息处理机制的比较 1.1.3 什么是人工神经网络 1.1.3 什么是人工神经网络 1.1.3 什么是人工神经网络 1.2 人工神经网络发展简史 神经网络的研究可追溯到19世纪末期，其发展历史可分为四个时期。 第一个时期为启蒙时期，开始于1890年美国著名心理学家W．James关于人脑结构与功能的研究，结束于1969年Minsky和Papert发表《感知器》(Perceptron)一书。 第二个时期为低潮时期，开始于1969年，结束于1982年Hopfield发表著名的文章“神经网络和物理系统”(Neural Network and Physical System)。 第三个时期为复兴时期，开始于J．J．Hopfield的突破性研究论文，结束于1986年D．E．Rumelhart和J．L．McClelland领导的研究小组发表的《并行分布式处理》(Parallel Distributed Processing)一书。 第四个时期为高潮时期，以1987年首届国际人工神经网络学术会议为开端，迅速在全世界范围内掀起人工神经网络的研究应用热潮，至今势头不衰。 1.2.1 启蒙时期 (1/2) 1890年，美国心理学家William James发表了第一部详细论述人脑结构及功能的专著《心理学原理》(Principles of Psychology)，对相关学习、联想记忆的基本原理做了开创性研究。 半个世纪后，生理学家W．S．McCulloch和数学家W．A．Pitts于1943年发表了一篇神经网络方面的著名文章。他们在已知的神经细胞生物学基础上从信息处理的角度出发，提出形式神经元的数学模型，称为M-P模型。 1.2.1 启蒙时期 (2/2) 启蒙时期的另一位重要学者是心理学家Donala O．Hebb，他在1949年出版了一本名为《行为构成》(Organization of Behavior)的书。 1958年计算机学家Frank Rosenblatt发表一篇有名的文章，提出了一种具有三层网络特性的神经网络结构，称为“感知器”(Perceptron)。这或许是世界上第一个真正优秀的人工神经网络 。 启蒙时期的最后两位代表人物是电机工程师Bernard Widrow和Marcian Hoff。1960年他们发表了一篇题为“自适应开关电路”(Adaptive Switching Circuits)的文章。 1.2.2 低潮时期 (1/3) 在20世纪60年代，掀起了神经网络研究的第一次热潮。由于当时对神经网络的学习能力的估计过于乐观，而随着神经网络研究的深入开展，人们遇到了来自认识、应用和实现各方面的种种困难和迷惑，使得一些人产生了怀疑和失望。 人工智能的创始人之一，M．Minsky和S．Papert研究数年，对以感知器为代表的网络系统的功能及其局限性从数学上做了深入研究，于1969年发表了轰动一时的评论人工神经网络的书，称为《感知器》(Perceptron)。该书指出，简单的神经网络只能运用于线性问题的求解，能够求解非线性问题的网络应具有隐层，而从理论上还不能证明将感知器模型扩展到多层网络是有意义的。 1.2.2 低潮时期 (2/3) 由于Minsky在学术界的地位和影响，其悲观论点极大地影响了当时的人工神经网络研究，为刚燃起的人工神经网络之火，泼了一大盆冷水。不久几乎所有为神经网络提供的研究资金都枯竭了，很多领域的专家纷纷放弃了这方面课题的研究。开始了神经网络发展史上长达10年的低潮时期。 使神经网络研究处于低潮的更重要的原因是：20世纪70年代以来，集成电路和微电子技术的迅猛发