IC04神经网络基础.pptVIP

4.1 概述 模糊控制技术基于人类语言的描述和推理。 模糊控制从人的经验出发，解决了智能控制中人类语言的描述和推理问题，尤其是一些不确定性的语言描述和推理问题，从而在机器模拟人脑感知、推理等智能行为方面迈出重大的一步。 模糊控制在处理数值数据、自学习能力等方面还远没有达到人脑境界。 人工神经网络（ANN，Artificial Neural Network ，简称神经网络 ）从另一个角度出发，即从人脑的生理学和心理学着手，通过人工模拟人脑的工作机理来实现机器的部分智能行为。 神经网络具有信息的分布存储、并行处理以及自学习能力等优点，所以它在信息处理、模式识别、智能控制等领域有着广阔的应用前景。 20世纪80年代以来，人工神经网络研究所取得的突破性进展。神经网络控制是将神经网络与控制理论相结合而发展起来的智能控制方法。它已成为智能控制的一个新的分支，为解决复杂的非线性、不确定、未知系统的控制问题开辟了新途径。 并行分布处理：神经网络具有高度的并行结构和并行实现能力，因而能够有较好的耐故障能力和较快的总体处理能力。这特别适于实时控制和动态控制。 非线性映射：神经网络具有固有的非线性特性，这源于其近似任意非线性映射能力。这一特性给非线性控制问题带来新的希望。 通过训练进行学习：神经网络是通过所研究系统过去的数据记录进行训练的。一个经过适当训练的神经网络具有归纳全部数据的能力。因此，神经网络能够解决那些由数学模型或描述规则难以处理的控制过程问题。 1890年，W.James发表专著《心理学》，讨论了脑的结构和功能。 1943年，美国神经生理学家 McCulloch和数学家 Pitts合写了一篇关于神经元如何工作的开拓性文章：“A Logical Calculus of Ideas Immanent in Nervous Activity”。该文指出，脑细胞的活动像断/通开关，这些细胞可以按各种方式相互结合，进行各种逻辑运算。 提出了生物脑神经元的数学模型，即著名的M-P模型，该模型给出了神经元的形式化数学描述和网络结构的描述方法。 1949年，心理学家Donala Hebb写了一本书：“The Organization of Behavior”。 在该书中，他强调了心理学和生理学间的联系和沟通，指出脑细胞间的思路每当通过参与某种活动时将被加强，这就是所谓的神经网络学习的“突触修正假设”，认为神经元之间的连接强度随神经元的活动而变化，该假设也称为Hebb学习规则。 1957年，计算机专家Frank Rosenblatt开始从事感知器的研究，并制成硬件，通常被认为是最早的神经网络模型（Perceptron模型）。 它是一个连续可调的M-P神经元模型，经过训练可以对一定的模式集合进行分类识别。 1959年，两位电机工程师Bernard Widrow和Marcian Haff开发出一种叫作自适应线性单元（ADALINE）的网络模型，并在他们的论文“Adaptive Switching Circuits”中描述了该模型和它的学习算法（ Widrow- Haff算法）。该网络通过训练，可以成功用于抵消通信中的回波和噪声，也可用于天气预报，成为第一个用于实际问题的神经网络，极大地促进了人工神经网络的研究。 1962年，Rosenblatt出版了一本书“The Principles of Neurodynamics”，详述了他的感知器模型。该感知器具有输入层、输出层和中间层，通过实验可以模仿人的某些特性，并断言它可以学会任何它可以表示的功能。 1967年，Stephen Grossberg通过对生理学的研究，开发了一种称作雪崩网的神经网络模型，可以控制机器人手臂的运动。 在这一时期，由于感知器的某些进展和对神经网络的宣传，人们乐观地认为几乎已经找到了实现智能的关键。人们夸大了神经网络的潜力（有人甚至担心制造机器人的人类会很快受到机器人的攻击）。 1969年，Marvin Minsky和Seymour Papert合著了一本专著“Perception”，对简单神经网络的功能和局限性从数学上进行了深入的分析，指出诸如感知器这样的简单神经网络只能进行线性分类和求解一阶谓词问题，不能作非线性分类（如 “异或”问题），也不能解决高阶谓词问题。要解决这些问题，必须引入隐含单元，但要找到一个有效的学习算法并不乐观，给Rosenblatt的感知器判了“死刑”。 此时，批评的声音高涨，导致了停止对人工神经网络研究所需的大量投资。 不少研究人员把注意力转向了人工智能，导致对人工神经网络的研究陷入低潮。 1982年，物理学家John Hopfield向美国科学院递交了有关神经网络的报告，主要内容就是建议收集和重视以前对神经网络