人工智能教案06章神经网络,6.1 概述.docVIP

6.1 概述　　神经元：神经细胞，高级动物脑组织的基本单元。　　神经细胞主要包括：细胞体、树突、轴突和细胞之间相互联系的突触。　　神经元的工作机制：神经元由细胞体、树突（输入端）、轴突（输出端）组成。神经元有两种工作状态：兴奋和抑制。每个神经元到另一个神经元的连接权（后者对前者输出的反应程度）是可以接受外界刺激而改变的，这构成了学习机能的基础。　　神经网络：神经网络（Neural Network，NN）指由大量神经元互连而成的网络。　　神经网络有点象服务器互连而成的国际互连网（Internet）。人脑有1000亿个神经元，每个神经元平均与10000个其他神经元互连，这就构成了人类智慧的直接物质基础。研究神经元网络的意义：人是万物之灵，区别人与动物的是其发达的大脑及进化的智慧。研究神经网络，特别是神经学习的机理，对认识和促进人自身发展有特殊的意义。　　人工神经元网络：采用物理可实现的模型来模仿人脑神经细胞的结构和功能的系统。　　人工神经元网络的用途：人工神经元网络也许永远无法代替人脑，但它能帮助人类扩展对外部世界的认识和智能控制。比如：GMDH网络本来是Ivakhnenko(1971)为预报海洋河流中的鱼群提出的模型，又成功的应用于超音速飞机的控制系统(Shrier,1987)和电力系统的负荷预测(Sagara和Murata,1988)。人的大脑神经系统十分复杂，可实现的学习、推理功能是人造计算机所不可比拟的。但是，人的大脑在对于记忆大量数据和高速、复杂的运算方面却远远比不上计算机。以模仿大脑为宗旨的人工神经元网络模型，配以高速电子计算机，有望将任和机器的优势结合起来，将大大提高人对客观世界的认识能力。　　这一章我们将讨论神经网络研究的历史和目前的发展状况，简要的介绍神经网络理论的研究基础和几种主要的神经网络模型。人工神经元网络是一个计算模型，与传统的计算机的计算模型不同。 它试图将一些简单的、大量的计算单元连接在一起，形成网络来进行计算；而传统的计算模式则是只用一个计算单元来进行计算。所以实际上它是一种分布的、并行计算的概念，代替了原来集中的计算方法。这种结构化计算方式与大脑有点相像，它会不会比原来计算方式快，或者比原来的更好？所有这些问题引起了业界人士的强烈兴趣，大家希望它能够给计算寄科学研究带来新的曙光。　　 它与传统计算方式的不同还体现在模型的建立方面。传统的计算方法，包括人工智能方法、数学模型计算，是采用从上到下的方法。例如，对一个问题，系统对它进行全面分析，然后再全面分解，最后为它建立一个计算模型，这个模型可能是数学的，可能是物理的，也可能是推理的、逻辑的。而在神经元网络中，系统通过采集数据并进行学习的方法来建立数据模型，即我们为系统提供样本，系统靠样本不断学习，在此基础上建立计算模型，从而建立网络结构。我们可以看到，后一种方法需要的经验知识比较少，即我们可以对这个问题不大了解，不知道它的规律，只要有数据就可以对它进行训练，建立计算模型，并希望从中得出计算结果。从这一角度来看，原来不能算的事，人们说不清楚的事，现在好像能算了。综合地说，其特点是适应性强，并行速度快，对经验知识的要求少。6.1.1 神经网络研究的发展历史　　下面我们回顾一下神经网络研究的发展历史。 1890年，美国生物学家W.James出版了《Physiology》（生理学）一书。首次阐明了有关人脑结构及其功能，以及相关学习、联想、记忆的基本规律。　　W.James指出：人脑中当两个基本处理单元同时活动，或两个单元靠得比较近时，一个单元的兴奋会传到另一个单元。而且一个单元的活动程度与他周围的活动数目和活动密度成正比。 　　 1943年McCulloch（心理学家）和Pitts（数理逻辑学家）发表文章，提出M-P模型。描述了一个简单的人工神经元模型的活动是服从二值（兴奋和抑制）变化的。总结了神经元的基本生理特性，提出了神经元的数学描述和网络的结构方法。这标志神经计算时代的开始。 　　其意义在于：　　 M-P模型能完成任意有限的逻辑运算　　 第一个采用集体并行计算结构来描述人工神经元和网络工作。　　 为进一步的研究提供了依据　　 1949年Donala U.Hebb（心理学家）论著《The Organization of Behavior（行为自组织）》，提出突触联系强度可变的假设，认为学习的过程最终发生在神经元之间的突触部位，突触的联系强度随着突触前后神经元的活动而变化。　　其意义在于：　　 提出了一个神经网络里信息是储藏在突触连接的权中　　 连接权的学习律正比于两个被连接的神经细胞的活动状态值的乘积　　 假设权是对称的　　 细胞的互相连接的结构是通过改变它们之间的连接权创造出来的 　　 1957年Frank