《人工神经网络的发展及其应用》.docxVIP

人工神经网络及其应用 摘要：神经网络是新技术领域中的一个时尚词汇。很多人听过这个词，但很少 人真正明白它是什么。本文的目的是介绍关于人工神经网络的基本包括它的背 景，发展，发展前景。 关键词：神经网络，发展，背景。 1 人工神经网络产生的背景 自古以来，关于人类智能本源的奥秘，一直吸引着无数哲学家和自然科学家的研究热 情。生物学家、神经学家经过长期不懈的努力，通过对人脑的观察和认识，认为人脑的智 能活动离不开脑的物质基础，包括它的实体结构和其中所发生的各种生物、化学、电学作 用，并因此建立了神经元网络理论和神经系统结构理论，而神经元理论又是此后神经传导 理论和大脑功能学说的基础。在这些理论基础之上，科学家们认为，可以从仿制人脑神经 系统的结构和功能出发，研究人类智能活动和认识现象。另一方面，19 世纪之前，无论是 以欧氏几何和微积分为代表的经典数学，还是以牛顿力学为代表的经典物理学，从总体上 说，这些经典科学都是线性科学。然而，客观世界是如此的纷繁复杂，非线性情况随处可 见，人脑神经系统更是如此。复杂性和非线性是连接在一起的，因此，对非线性科学的研 究也是我们认识复杂系统的关键。为了更好地认识客观世界，我们必须对非线性科学进行 研究。人工神经网络作为一种非线性的、与大脑智能相似的网络模型，就这样应运而生了。 所以，人工神经网络的创立不是偶然的，而是 20 世纪初科学技术充分发展的产物。 2 人工神经网络的发展 人工神经网络的研究始于 40 年代初。半个世纪以来，经历了兴起、高潮与萧条、高潮 及稳步发展的远为曲折的道路。 1943 年，心理学家 W.S.Mcculloch 和数理逻辑学家 W.Pitts 提出了 M—P 模型，这是 第一个用数理语言描述脑的信息处理过程的模型， 虽然神经元的功能比较弱，但它为以后 的研究工作提供了依据。1949 年，心理学家 D.O.Hebb 提出突触联系可变的假设，根据这 一假设提出的学习规律为神经网络的学习算法奠定了基础。 1957 年， 计算机科学家 Rosenblatt 提出了著名的感知机模型，它的模型包含了现代计算机的一些原理，是第一个完 整的人工神经网络，第一次把神经网络研究付诸工程实现。由于可应用于模式识别，联想 记忆等方面，当时有上百家实验室投入此项研究，美国军方甚至认为神经网络工程应当比 “原子弹工程”更重要而给予巨额资助，并在声纳信号识别等领域取得一定成绩。1960 年， B.Windrow 和 E.Hoff 提出了自适应线性单元， 它可用于自适应滤波、预测和模式识别。 至此，人工神经网络的研究工作进入了第一个高潮。 1969 年，美国著名人工智能学者 M.Minsky 和 S.Papert 编写了影响很大的 Perceptron 一书，从理论上证明单层感知机的能力有限，诸如不能解决异或问题，而且他们推测多层 网络的感知机能力也不过如此，他们的分析恰似一瓢冷水，很多学者感到前途渺茫而纷纷 改行，原先参与研究的实验室纷纷退出，在这之后近 10 年，神经网络研究进入了一个缓慢 发展的萧条期。这期间，芬兰学者 T.Kohonen 提出了自组织映射理论，反映了大脑神经细 胞的自组织特性、记忆方式以及神经细胞兴奋刺激的规律；美国学者 S.A.Grossberg 的自适 应共振理论（ART ）；日本学者 K.Fukushima 提出了认知机模型；ShunIchimari 则致力于 神经网络有关数学理论的研究等，这些研究成果对以后的神经网络的发展产生了重要影响。 美国生物物理学家 J.J.Hopfield 于 1982 年、1984 年在美国科学院院刊发表的两篇文章， 有力地推动了神经网络的研究，引起了研究神经网络的又一次热潮。 1982 年， 他提出了 一个新的神经网络模型——hopfield 网络模型。他在这种网络模型的研究中，首次引入了 网络能量函数的概念，并给出了网络稳定性的判定依据。1984 年，他又提出了网络模型实 现的电子电路，为神经网络的工程实现指明了方向，他的研究成果开拓了神经网络用于联 想记忆的优化计算的新途径，并为神经计算机研究奠定了基础。1984 年 Hinton 等人将模拟 退火算法引入到神经网络中，提出了 Boltzmann 机网络模型，BM 网络算法为神经网络优 化计算提供了一个有效的方法。1986 年，D.E.Rumelhart 和 J.LMcclelland 提出了误差反向 传播算法，成为至今为止影响很大的一种网络学习方法。1987 年美国神经计算机专家 R.Hecht—Nielsen 提出了对向传播神经网络，该网络具有分类灵活，算法简练的优点，可 用于模式分类、函数逼近、统计分析和数据压缩等领域。1988 年 L.Ochua 等人提出了细胞 神经网络模型