第6章神经网络的理论基础.pdf

第6章 神经网络的理论 第6章 神经网络的理论 基础 基础 电气工程教研室 1 第6章 神经网络理论基础 神经网络理论基础 • 模糊控制从人的经验出发，解决了智 能控制中人类语言的描述和推理问 题，尤其是一些不确定性语言的描述 和推理问题，从而在机器模拟人脑的 感知、推理等智能行为方面迈出了重 大的一步。 2 • 模糊控制在处理数值数据、自学习能力 等方面还远没有达到人脑的境界。人工 神经网络从另一个角度出发，即从人脑 的生理学和心理学着手，通过人工模拟 人脑的工作机理来实现机器的部分智能 行为。 3 人工神经网络（简称神经网络， Neural Network）是模拟人脑思维方式 的数学模型。 神经网络是在现代生物学研究人脑组 织成果的基础上提出的，用来模拟人类 大脑神经网络的结构和行为。 神经网络反映了人脑功能的基本特征 ，如并行信息处理、学习、联想、模式 分类、记忆等。 4 神经网络控制 将神经网络与控制理论相结合而发展起 来的智能控制方法。它已成为智能控制 的一个新的分支，为解决复杂的非线性 、不确定、未知系统的控制问题开辟了 新途径。 5 6.1 神经网络发展历史 神经网络的发展历程经过4个阶段。 1、启蒙期（1890-1969年） 1890年，W.James发表专著《心理学》，讨论 了脑的结构和功能。 1943年，心理学家W.S.McCulloch和数学家 W.Pitts提出了描述脑神经细胞动作的数学模 型，即M-P模型（第一个神经网络模型）。 6 1949年，心理学家Hebb实现了对脑细胞之间相互影 响的数学描述，从心理学的角度提出了至今仍对神经 网络理论有着重要影响的Hebb学习法则。 1958年，E.Rosenblatt提出了描述信息在人脑中贮 存和记忆的数学模型 ，即著名的感知机模型（ Perceptron）。 1962年，Widrow和Hoff提出了自适应线性神经网络 ，即Adaline网络，并提出了网络学习新知识的方法 ，即Widrow和Hoff学习规则（即δ学习规则），并用 电路进行了硬件设计。 7 2、低潮期（1969-1982） M.Minsky等仔细分析了以感知器为代表的神经网络系 统的功能及局限后，于1969年出版了《Perceptron》 一书，指出感知器不能解决高阶谓词问题，他们的论 点极大地影响了神经网络的研究。同时，20世纪60年 代以后，冯·诺依曼式数字计算机的发展达到全盛时 期，人们误以为数字计算机可以解决人工智能、专家 系统、模式识别问题，而放松了对“感知器”的研 究，使得神经网络的研究陷入低谷。 8 在美、日等国有少数学者继续着神经网络模型和 学习算法的研究，提出了许多有意义的理论和方