人工神经网络的发展及应用.pdf

人工神经网络的发展及应用 西安邮电学院电信系 樊 宏 西北电力设计院 王 勇 日期： 2005-1-21 1 人工神经网络的发展 1．1 人工神经网络基本理论 1．1．1 神经生物学基础 生物神经系统可以简略地认为是以神经元为信号的处理单元， 通过广泛的突触联系形成的信 息处理集团，其物质结构基础和功能单元是脑神经细胞，即神经元 (neuron) 。 (1)神经元具有信号的输人、整合、输出三种主要功能作用行为，结构如图 1 所示： (2) 突触是整个神经系统各单元间信号传递驿站，它构成各神经元之间广泛的联接。 (3) 大脑皮质的神经元联接模式是生物体的遗传性与突触联接强度可塑性相互作用的产物， 其变化是先天遗传信息确定的总框架下有限的自组织过程。 1．1．2 建模方法 神经元的数量早在胎儿时期就已固定， 后天的脑生长主要是指树突和轴突从神经细胞体中长 出并形成突触联系， 这就是一般人工神经网络建模方法的生物学依据。 人脑建模一般可有两 种方法： ①神经生物学模型方法， 即根据微观神经生物学知识的积累， 把脑神经系统的结构 及机理逐步解释清楚， 在此基础上建立脑功能模型； ②神经计算模型方法， 即首先建立粗略 近似的数学模型并研究该模型的动力学特性，然后冉与真实对象作比较 (仿真处理方法 ) 。 1．1．3 概念 人工神经网络用物理町实现系统采模仿人脑神经系统的结构和功能， 是一门新兴的前沿交义 学科，其概念以 T ．Kohonen ．Pr 的论述最具代表性：人工神经网络就是由简单的处理单元 (通常为适应性神经元，模型见图 2)组成的并行互联网络，它的组织能够模拟生物神经系统 对真实世界物体所作出的交互反应。 1．2 人工神经网络的发展 人工神经网络的研究始于 40 年代初。半个世纪以来，经历了兴起、高潮与萧条、高潮及稳 步发展的较为曲折的道路。 1943 年，心理学家 W ．S．Mcculloch 和数理逻辑学家 W ． Pitts 提出了 M — P 模型， 这是第一个用数理语言描述脑的信息处理过程的模型， 虽然神经元的功 能比较弱，但它为以后的研究工作提供了依据。 1949 年，心理学家 D ．O ．Hebb 提出突触 联系可变的假设，根据这一假设提出的学习规律为神经网络的学习算法奠定了基础。 1957 年，计算机科学家 Rosenblatt 提出了著名的感知机模型，它的模型包含了现代计算机的一些 原理，是第一个完整的人工神经网络。 1969 年，美国著名人工智能学者 M ．Minsky 和 S．Papert 编写了影响很大的 Perceptron 一书， 从理论上证明单层感知机的能力有限， 诸如不能解决异 或问题，而且他们推测多层网络的感知能也不过如此，在这之后近 10 年，神经网络研究进 入了一个缓慢发展的萧条期。 美国生物物理学家 J．J．Hopfield 于 1982 年、 1984 年 在美国科学院院刊发表的两篇文章， 有力地推动了神经网络的研究， 引起了研究神经网络的 又一次热潮。 1982 年，他提出了一个新的神经网络模型—— hopfield 网络模型。 1984 年， 他又提出了网络模型实现的电子电路，为神经网络的工程实现指明了方向。 为适应人 工神经网络的发展，