人工神经网络课程论文.doc

PAGE  PAGE 9 人 工 神 经 网 络 课 程 论 文 阴 雷 鸣 2004级硕士（1）班（200420109196） 一、人工神经网络的发展与应用 人脑是产生自然智能的源泉，是真正出色的并行计算机。人工神经网络（Artificial NeuralNetworks， 简称ANN）是在人类对其大脑神经网络认识理解的基础上人工构造的能够实现某种功能的神经网 络，它是理论化 的人脑神经网络的数学模型，是基于模仿大脑神经网络结构和功能而建立的一种非算法的信息处 理系统。 人工神经网络吸取了生物神经网络的许多优点，因而有其固有的特点： （1）、高度并行性：人工神经网络是由许多相同的简单处理单元并联组合而成，使其对信息的处理 能力与效果惊人。 （2）、高度非线性全局作用：人工神经网络每个神经元接受大量其它神经元的输入，并通过并行网络产生输出，影响其它神经元。网络之间的这种相互制约和相互影响，实现了从输入状态到输出状态空间的非线性映射.从全局的观点来看，网络整体性能不是网络局部性能的简单迭加，而表现出某种集体性的行为。 （3）、良好的容错性与联想记忆功能：人工神经网络通过自身的网络结构能够实现对信息的记忆，而所记忆的 信息是存储在神经元之间的权值中。从单个权值中看不出所存储的信息内容，因而是分布式的存储方式，这使得网络具有良好的容错性，既能进行模式信息处理工作， 有能进行模式联想等的模式信息处理工作，又能进行模式识别工作。 （4）、十分强的自适应、自学习功能：人工神经网络可以通过训练和学习来获得网络的权值与结构，呈现出很强的自学习能力和对环境的适应能力。 1、人工神经网络发展的回顾 一般认为，最早用数学模型对神经系统中的神经元进行理论建模的是美国心理学家麦卡洛克（W.McCulloch）和数学家皮茨（W.Pitts）。他们于1943年建立了MP神经元模型。MP神经元模型首次简单的数学模型模仿出生物神经元活动功能，并揭示了通过神经元的相互连接和简单的数学计算，可以进行相当复杂的逻辑运算这一令人兴奋的事实1957年，美国计算机学家罗森布拉特（F.Rosenblatt）提出了著名的感知器（Perceptron）模型。它是一个具 有连续可调权值矢量的MP神经网络模型，经过训练可达到对一定输入矢量模式进行识别的目的。1959年，当时的另外两位美国工程师威德罗（B.Widrow）和霍夫（M.Hoff）提出了自适应线性元件（Adaptive linear element,简称Adaline）。它是感知器的变化形式，尤其在权失量的算法上进行了改进，提高了训练收敛速度和精度。他们从工程实际出发，不仅在计算机上模拟了这种神经网络，而且还做成了硬件，并将训练后的人工神经网络成功地用于的小通讯中的回波和噪声，成为第一个用于解决实际问题的人工神经网络。1969年，人工智能的创始人之一明斯基（M.Minsky）和帕伯特（S.Papert）在合著的《感知器》一书中对以单层感知器为代表的简单人工神经网络的功能及局限性进行了深入分析。他们指出，单层感知器只能进行线性分类，对线性不可分的输入模式无能为力，而其解决的办法是设计出具有隐含层的多层神经网络，但是要找到一个有效修正权矢量的学习算法并不容易。这一结论使得当时许多神经网络研究者感到前途渺茫，客观上对神经网络理论的发展起了一定的消极作用。美国学者霍普菲尔德（J.Hopfield）对人工神经网络研究的复苏起到了关键性的作用。1982年，他提出了霍普菲尔的网络模型，将能量函数引入到对称反馈网络中，是网络稳定性有了明显的判据，并利用提出的网络的神经计算能力来解决条件优化问题。另外，霍普菲尔德网络模型可以用电子模拟线路来实现，从而由此还兴起了对新一代电子神经计算机的研究。另一个突破性的研究成果是儒默哈特（D.E.Rumelhart）等人在1986年提出的解决多层神经网络权值修正的算法——误差反向传播法，简称BP算法，找到了解决明斯基和帕伯特提出的问题的办法，从而给人工神经网络增添了活力。 2、人工神经网络的应用 人工神经网络的实质反映了输入转化为输出的一种数学表达式，这种数学关系是由网络的结构确定的，网络的结构必须根据具体问题进行设计和训练。学习人工神经网络的关键在于掌握生物神经网络与人工神经网络建模的联系，人工神经网络的数学基础，以及人工神经网络的应用。 以下根据一些文献的介绍，列出神经网络在一些主要领域的应用情况： 模式信息处理和模式识别 所谓模式，从广义上说，就是事物的某种特性类属，如：图像、文字、声纳信号、动植物种类形态等信息。模式信