神经网络综述.docVIP

神 经 网 络 综 述 摘 要 作为一门活跃的边缘性交叉学科，神经网络的研究与应用正成为人工智能、 认识科学、神经生理学、 非线性动力学等相关专业的热点。近十几年来，针对神经网络的学术研究大量涌现，它们当中提出上百种的神经网络模型，其应用涉及模式识别﹑联想记忆、信号处理、自动控制﹑组合优化﹑故障诊断及计算机视觉等众多方面，取得了引人注目的进展。关键：神经网络，研究与应用，发人类关于认知的探索由来已久。早在公元前400 年左右，希腊哲学家柏拉图（Plato）和亚里士多德（Asidtole）等，就曾对人类认知的性质和起源进行过思考，并发表了有关记忆和思维的论述。在此及以后很长的一段时间内，由于科学技术发展水平所限，人们对人脑的认识主要停留在观察和猜测的基础之上，缺乏有关人脑内部及其工作原理的科学依据， 因而进展缓慢。直到20世纪40 年代，随着神经解剖学、神经生理学以及神经元的电生理过程等的研究取得突破性进展，人们对人脑的结构、组成及最基本工作单元有了越来越充分的认识，在此基本认识的基础上，以数学和物理方法以及信息处理的角度对人脑神经网络进行抽象，并建立简化的模型，称为人工神经网络ANN（Artificial Neural Network），为叙述方便将人工神经网络直接称之为神经网络。1 神经网络的定义 目前，关于神经网络的定义尚不统一，按美国神经网络学家Hecht Nielsen 的观点，神经网络的定义是：“神经网络是由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算机系统，该系统靠其状态对外部输入信息的动态响应来处理信息”。综合神经网络的来源﹑特点和各种解释，它可简单地表述为：人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统。 2 神经网络的基本模型 人工神经元的研究源于脑神经元学说，19世纪末，在生物、生理学领域，Waldeger等人创建了神经元学说。人们开始认识到，复杂的神经系统是由数目繁多的神经元组合而成。 神经元由细胞及其发出的许多突起构成。细胞体内有细胞核，突起的作用是传递信息。作为引入输入信号的若干个突起称为“树突”或“晶枝”(dendrite)，而作为输出端的突起只有一个称为“轴突”(axon)。 树突是细胞体的延伸部，它由细胞体发出后逐渐变细，全长各部位都可与其它神经元的轴突末稍相互联系，形成所谓“突触”(synapse)。突触可分为兴奋性与抑制性两种类型，它相应于神经元之间耦合的极性。每个神经元的突触数目有所不同，最高可达105 个，各神经元之间的连接强度和极性有所不同，并且都可调整，基于这一特性，人脑具有存储信息的功能。 对于这样一种多输入、单输出的基本单元可以进一步从生物化学、电生物学、数学等方面给出描述其功能的模型。从信息处理观点考察，为神经元构作了各种形式的数学模型。 利用大量神经元相互连接组成的人工神经网络，将显示出人脑的若干特征，人工神经网络也具有初步的自适应与自组织能力。同一网络因学习方式及内容不同可具有不同的功能。人工神经网络是一个具有学习能力的系统，可以发展知识，以至超过设计者原有的知识水平。通常，它的学习(或训练)方式可分为两种，一种是有监督(supervised)或称有导师的学习，这时利用给定的样本标准进行分类或模仿；另一种是无监督(unsupervised)学习或称无导师学习，这时，只规定学习方式或某些规则，而具体的学习内容随系统所处环境(即输入信号情况)而异，系统可以自动发现环境特征和规律性，具有更近似于人脑的功能。 3 人工神经网络的特性 人工神经网络与人脑以及冯·诺依曼计算机相比有如下特点： 1大规模并行处理 人脑神经元之间传递脉冲信号的速度远低于冯·诺依曼计算机的工作速度，前者为毫秒量级，后者的时钟频率通常可达108Hz或更高的速率。但是，由于人脑是一个大规模并行与串行组合处理系统，因而在许多问题上可以做出快速判断、决策和处理，其速度可以远高于串行结构的冯·诺依曼计算机。人工神经网络的基本结构模仿人脑，具有并行处理的特征，可以大大提高工作速度。 2分布式存储 人脑存储信息的特点是利用突触效能的变化来调整存储内容，也即信息储存在神经元之间连接强度的分布上，存储区与运算区合为一体。虽然人脑每日有大量神经细胞死亡，但不影响大脑的功能，局部损伤可能引起功能衰退，但不会突然丧失功能。 冯·诺依曼计算机具有相互独立的存储器和运算器，知识存储与数据运算互不相关，只有通过人的编程给出指令使之沟通，这种沟通不能超越程序编写者的预想。元件的局部损伤或程序中的微小错误都可能引起严重的失常。 3自适应(学习)过程 人类大脑有很强的自适应与自组织特性。后天的学习与训练可以开发许多各具特色的活动功能。如盲人的听觉和触觉非常灵敏，聋哑人善于运用手势，训练有素的运动员可以表现出非凡的运动技巧