协同神经网络简介.pptxVIP

协同神经网络简介;第一部分 协同学简介;1 发展背景;从二十世纪中叶以来，随着非线性动力学，随机微分方程等数学工具的不断发展，普利高津（比利时）、哈肯（德国）等人在对非平衡热力学、激光等领域的研究中逐渐形成了耗散结构理论、协同学等非线性理论，它们从另一个角度即系统整体性的角度来研究复杂现象，使得人们对客观事物的研究方法有了一个突破，被称为本世纪继相对论和量子力学两项科学发现之后的第三次科学革命。 ;2 研究地位;;我们的重点：;2.1 耗散结构理论;所谓耗散结构即对应于平衡结构的概念。在平衡结构中达到的有序是一种“死”结构，若是打破平衡，这种有序就变成了无序，普利高津发现，若再加以外界物质流或能量流，使系统远离非平衡线性区，无序就可进化为有序，他将这种非平衡下的有序状态称为“耗散结构”。 ;达到耗散结构的四个条件:; 有序 无序 有序 平衡 非平衡 非平衡 ; 耗散结构理论揭开了非线性研究的大幕，在此基础上，人们对非平衡有序状态的进一步研究，导致了协同学、突变、分形、混沌等非线性科学的百花齐放。 ;2.2 协同学; 他是谁？ ;Hermann Haken:;Haken在1977年正式提出了协同学理论，摆脱了理论物理的传统研究方法，结合平衡相变理论、激光理论、信息理论、控制理论、一般系统论、动力系统理论，建立了一套处理非平衡相变的理论和方法，引入了order parameter（序参量）、slaving principle（支配原理）等概念，成为一门独树一帜、颇受学术界青睐的学科。 ;Prigogine是在发展热力学理论的过程中阐述耗散结构理论的，所以用耗散结构理论研究其他问题，特别是社会问题、经济问题，就有很大困难。这并不是说社会系统不是耗散结构，而是社会系统过于复杂，远远不是简单的反应扩散方程所能描述的，用从分子级耗散结构研究中形成的数学工具去研究社会级耗散结构将遇到很大的困难。 ;;钱学森曰：;3 主要研究内容 ;3.1 基本概念;一个定义：;二个要义:;三个数学工具:;自组织系统四个基本特点：;3.2 协同学数学模型;系统方程式：; ; 当控制参数改变到α，系统的状态也会发生质变： ; 对系统方程进行非线性失稳分析后，可以将状态向量分为稳定模和非稳定模，我们称非稳定模为序参量 ; 根据协同学的支配原理，系统演化的结构，也即系统的有序化，只取决于非稳定模。因而，可以只用非稳定模的序参量来进行讨论。 ; 协同学的建模主要是建立随机微分方程，运用支配原理，将快变量消去，以获得序参量的封闭方程。即，把一个高维的非线性问题归结为一组维数很低的非线性方程（即序参量方程）来描述，序参量方程控制着系统在临界点附近的动力学行为。 ;引入势函数V:; 势函数可以看成一个有山有谷的地形图，每个谷地表示一个稳定的不动点，每个山峰顶部表示一个不稳定不动点，由于稳定不动点看起来能够吸引“粒子”，可称之为吸引子，这些点上的粒子都能被同一个吸引谷底所吸引，山背上的最小高度点称为鞍点。;; 势函数表征了模式演化的过程，所有的吸引子可看成是记忆状态，而稳定不动点中的最小点是真正的记忆状态，其它点则是记忆伪状态，伪状态中的粒子最终被真正状态所吸引，伪状态消失，即系统最终受非稳定模的支配。 ;协同学的基本原理 ：; 当一个系统受外界控制参数的影响，它可能被驾驭到一个不稳定状态，在这个状态下，若干个模趋向生长，与此相反，其他全部的模则逐渐衰减，由于这些生长模确定了整个系统的动力学特性和模结构，所以生长模的幅值称为序参量。在不稳定点下面，会变得存在若干个可达的稳定状态，但其中仅有一个稳定状态能被选择（这时就产生对称破缺），而实际的选择完全依赖于最初引发的状态，例如依赖于当时的涨落。所以，一旦序参量被确定下来，模式也就被选定。 ;第二部分 协同神经网络;“模式识别就是模式形成的过程”;协同时代的爱情故事; ---相识经过多年的演化她找到了他的伴随向量 ---相恋她把他看成自己的序参量并在竞争中成功侧抑制了其他模式 ---相爱偶尔她也乏味而寻找道具但伴随向量本身还是具有邪教的回归力 ---相守她困守在输出层的牢笼却不知自己也成了伴随矢的道具 ;这个学习的过程有许多秘密最重的权值还是物质和生物的利益她和伴随矢几乎在正交域他们最终不可能有大于0.1的内积 他也许并不在乎她的离去因为他已使她最美好的时光付给自己管它什么X-Y的轨迹曾嫁给我就证明了我的胜利 这就是所谓的神圣的“学习过程”！ ;SNN的基本概念;SNN原理图;网络学习;序参量;网络竞争;系统终态; ;序参量演化曲