前向神经网络中混沌学习算法的分析与应用-analysis and application of chaos learning algorithm in forward neural network.docxVIP

第一章绪论1. 1引言人脑是一个高度发达的唯一智能系统，它具有“认知”、“意识”和“情感” 等高级功能。80 年代初，神经网络的崛起，已对认知和智力的本质的基础研究乃 至计算机产业都产生了空前的刺激和极大的推动作用[1]。神经网络既是自适应组织 系统，又是高度非线性动力学系统，可用来描述认知、决策及控制的智能行为。 其核心问题是智能的认知和模拟，以及怎样用人工方法来模拟人脑的高级功能， 这将有助于加深对思维及智能的认识。然而，人类对于自身脑结构及人脑产生智慧的机理只了解非常有限的一部份， 目前的神经网络模型实际上是十分粗糙和简略的，因此，人工神经网络的完美与 发展有待于神经生理学、神经解剖学的研究给出更加详细的信息和证据。目前，科学家们在长枪乌贼巨大轴索的生理实验和人类脑电图中都发现有混 沌现象的存在，证明混沌是神经系统的正常特征[2]。神经网络和混沌相互融合的研 究开始于上世纪九十年代，其主要研究目标是弄清大脑的混沌现象，建立含有混 沌动力学的神经网络模型，并将其应用于智能信息处理。最近，经研究发现，具 有混沌特性的人工神经网络，具有十分复杂的动力学特性，不同于仅具有梯度下 降特性的常规神经网络，具有混沌特性的人工神经网络具有更加丰富和远平衡点 的动力学特性，同时存在各种吸引子，不仅有固定点吸引子和周期点吸引子，而 且有奇异吸引子。混沌神经网络的这种复杂的动力学特性将在信息处理和优化计 算等方面具有十分广泛的应用前景[3]。1. 2混沌学综述“混沌”，英文为“Chaos”，意指混乱，无秩序。而普里高金（I. Prigogine） 认为，有序可以通过自组织过程从无序和混沌中自发产生出来，混沌和有序同在[1]。从物理学的观点，“混沌”指的是自然界中普遍存在的一种运动状态。学术上 关于混沌的定义是“确定性的力学系统中呈现的有界的、非周期性的运动的总称” [2]，由此可见，物理学上所研究的那种线性的，稳定的运动是人们对实际过程的一 种近似，规则运动相对地在局部的范围和较短的时间内存在，而自然界中存在的 绝大部分运动都是混沌运动[3]。人们不仅在物理学，而且在生态学、生物学和医学 领域的许多系统中，甚至在一些社会经济的宏观或微观系统中，都可观察到混沌 现象。混沌学的研究热潮仅始于70年代初期，但这门新学科的渊源却可以追溯到上个世纪30年代[4]，英国数学物理学家W.R.Hamilton将动力学系统的能量表示为广义 动量和广义坐标的函数。这样，牛顿力学变成了相空间的几何学，几何方法成了 研究动力学系统的有力工具。按照Hamilton函数的数学形式，可以把动力学系统划 分为可积和不可积两大类。这一划分使人们逐步认识到，经典牛顿理论实际上只 是关于可积系统的理论，而一般的动力学系统，包括多体甚至仅三体系统都是不 可积的。这一认识是通向混沌学大门的重要一步，因为混沌正是不可积系统的典 型行为。公认为真正发现混沌的第一位学者，是法国数学物理学家H. Poincare，他 发现了三体引力相互作用能产生出惊人的复杂行为，确定性动力学方程的某些解 有不可预见性，这就是我们现在讲的动力学混沌现象。现代动力系统的几个重要 组成部分，如稳定性理论、分叉理论、奇异性理论和吸引子理论等，都发源于H. Poincare的早期研究，还有回复定理、遍历理论、概率思想等等，这一系列数学成 就对以后混沌学的建立发挥着广泛而深刻的影响[11]。在H.Poincare的研究之后，在 数学领域和物理领域一大批学者所作的出色工作，为建立混沌学做出了不可磨灭 的贡献。早期混沌研究的一个重要阶段是把H.Poincar的拓扑动力学思想推广应用于耗 散系统。最早的工作开展在电工学领域，1918年G.Du ffing对具有非线性恢复力项 的受迫振动系统进行了深入研究，揭示出许多非线性振动的奇妙现象，他的标准 化的动力学方程称为Duffing方程[5]，即x+ kx+ f (x) = g(x)（1-1）其中 Ax) 含三次项， g(x) 为周期函数。同时期荷兰物理学家B.Vanderpol研究三极管振荡器，建立了著名的Vanderpol方程[1]：x? k(1 ? x 2 )x+ x = bλk cos(λt + ?)（1-2）Duffing方程和Vanderpol方程都是现代混沌学文献中的典型方程。早期混沌探索的一个突出成果是在生态领域，经过数代人的努力提炼出了Logistic方程[2]：xn+1 = axn (1 ? xn )这是描述生物种群系统演化的典型模型，常称为虫口模型。 （1-3）在二十一世纪五十年代，在许多的科学领域，均发现了混沌现象，各领域的 研究学者们陆续对各类混沌建立了各种数学处理方法。在保守系统为研究对象的 天体力学领域出现了混沌学研究的第一个重大突破，从而KAM定