[神经网络发展.doc

神经网络理论的发展与前沿问题 神经网络理论的发展与前沿问题 刘永? 　　摘　要　系统地论述了神经网络理论发展的历史和现状，在此基础上，对其主要发展趋向和所涉及的前沿问题进行了阐述．文中还作了一定的评论，并提出了新的观点． 　　关键词　神经网络理论，神经计算，进化计算，基于神经科学和数学的研? THE DEVELOPMENT AND FORWORD PROBLEMS OF NEURAL NETWORK THEORY LIU Yonghong (Dept. of Automation, Wuhan University of Technology, Wuhan 430 070) Abstract　This is a survey paper of the development and forwo rd problems of neural network theory. It is divided into four parts: 1. Introduc tion to neural network; 2. The history and present condition; 3. The development trend and forword problems; 4. Conclusions. In the paper, a new comment and vie w for neural network theory is presented. Key words　neural network theory, neural computing, evolutionary computing, study based on neurosciences and mathematics 1　引言 　　神经网络是一门活跃的边缘性交叉学?研究它的发展过程和前沿问题，具有重要的理论意 ? 　　神经网络理论是巨量信息并行处理和大规模平行计算的基础，神经网络既是高度非线性动?学系统，又是自适应组织系统，可用来描述认知、决策及控制的智能行为．它的中心问题?智能的认知和模拟．从解剖学和生理学来看，人脑是一个复杂的并行系统，它不同于传?的Neumann式计算机，更重要的是它具有“认知”“意识”和“感情”等高级脑功?．我们以人工方法摸拟这些功能，毫无疑问，有助于加深对思维及智能的认识?0年代初， 神经网络的崛起，已对认知和智力的本质的基础研究乃至计算机产业都产生了空前的刺激 和极大的推动作用? 　　近十年来，神经网络理论与实践有了引人注目的进展，它再一次拓展了计算概念的内涵，?神经计算、进化计算成为新的学科，神经网络的软件模拟得到了广泛的应用．近几年来科技 发达国家的主要公司对神经网络芯片、生物芯片独有情钟．例如Intel公司、IBM公司、AT T公司和HNC公司等已取得了多项专利，已有产品进入市场，被国防、企业和科研部门?用，公众手中也拥有神经网络实用化的工具，其商业化令人鼓舞．尽管神经计算机、光学神 经计算机和生物计算机等研制工作的艰巨性和长期性，但有一点可以使人欣慰：它现在还?是初露锋芒，有巨大的潜力与机会，前景是美好的? 　　事实上，探究大脑?思维?计算之间的关系还刚刚开始，道路还十分漫长，关于脑的计算?理及其复杂性；关于学习、联想和记忆过程的机理及其模拟等方面的研究已受到人们的关?，它未来的发展必将是激动人心的．神经网络理论的前沿问题将渗透在21世纪科学的挑战?问题中，可能取得重大的突破． 2　发展历史及现? 　　神经网络诞生半个多世纪以来，经历?个阶段： 　　(1)奠基阶段.早在40年代初，神经解剖学、神经生理学、心理学以及人脑?经元的电生理的研究等都富有成果．其中，神经生物学家McCulloch提倡数字化具有?别意义．他与青年数学家Pitts合作?］，从人脑信息处理观点出发，采用数理 模型的方法研究了脑细胞的动作和结构及其生物神经元的一些基本生理特性，他们提出了第 一个神经计算模型，即神经元的阈值元件模型，简称MP模型，他们认识到了模拟大脑可 用于逻辑运行的网络，有一些结点，及结点与结点之间相互联系，构成一个简单神经网络模 型．其主要贡献在于，结点的并行计算能力很强，为计算神经行为的某此方面提供了可能?，从而开创了神经网络的研究．这一革命性的思想，产生了很大影响? 　　举例说，数学家Kleene在此基础上抽象成一种有限自动机理论．Wiener是控制论的创 始人之一?948年他出版了著名专著Cybernetics??探讨了动物和机器的控?和通讯问题，他?961年增补了两章内容，主要是讨论学习和自生殖问题，他选择机器学习 下棋问题作为研究对象，对脑电波与自组织系统进行了探索．尤其是，MP模型是最终导?Neuman