墨西哥帽小波混沌神经网络及其的应用.docVIP

墨西哥帽小波混沌神经网络及其的应用 　　摘要：此文用墨西哥帽小波函数和Sigmoid函数相加组成一个新函数，利用此函数作为激励函数，提出一种新型的暂态混沌神经元模型，通过实验给出该神经元的倒分叉图以及最大Lyapunov指数时间演化图，并且分析此神经元的动力学特性。基于该神经元模型，构造一种暂态神经网络，并将其应用于组合优化和预测方面，通过对经典的10城市TSP，验证墨西哥帽小波混沌神经网络在克服陷入极小点的有效性。 　　关键词：小波函数；混沌神经网络；Lyapunov指数 　　中图分类号：TP368.1文献标识码：Adoi: 10.3969/j.issn.1003-6970.2011.03.007 　　 　　The Mexican Hat Wavelet Chaotic Neural Network and its Application 　　ZHANG Zhong-hua, ZHANG Shi-long 　　(HuaDe College of Harbin Industry University,the No. 5 of University Road , Harbin 150025) 　　【Abstract】 By introducing Mexican Hat Wavelet equation plus Sigmoid equation as activative function, we proposed a new type Transient Chaotic Neuron Model, and provided its bifurcation diagram and time evolution diagram of Lyapunov exponent, analyze its Dynamics. Base on this Neuron Model, we build a Transient Neural Network, and use it to combinatiorial optimization and prediction. We have tested its effectiveness by typical 10 cities’s TSP. 　　【Key words】Wavelet function;the Chaotic Neural Network;Lyapunov exponent 　　 　　0引言 　　现在，Hopfield神经网络(Hopfield Neural Network, 　　HNN)已经被广泛地应用于求解复杂组合优化问题，但HNN存在最大的缺点是在求解过程中极易陷入局部极小点，为了克服这一问题，人们将混沌动力学的全局搜索特性引入神经网络中，提出了多种混沌神经网络模型，并取得良好的效果[1-4]。 　　目前，混沌神经网络的神经元激励函数大都采用单调递增的Sigmoid函数，尽管该函数具有比较强的生理学背景，但严格来讲它不是基函数，因此其逼近函数的能力没有基函数强[5-6]。由于小波函数可以是正交性的基函数，保证了逼近函数表达似的唯一性，且小波函数对突变函数逐步惊喜的特性描述，使得函数的逼近效果更好[5-9]。1992年小波神经网络的概念被正式提出，用小波伸缩和平移得到的小波元函数作为神经元的激发函数，用随机梯度算法对网络进行训练，以实现对函数的逼近,并取得良好的效果[8]。 　　墨西哥帽小波函数（Mexican Hat）具有小波函数的数学特性，本文把Sigmoid激励函数换成以墨西哥帽小波函数和Sigmoid函数相加之和，利用自反馈项引入混沌特性，提出一种新的小波混沌神经元模型，通过实验分析该神经元模型的动力学特征。基于此神经元模型构造出一种小波混沌神经网络，即墨西哥帽小波混沌神经网络，它具有小波函数的正交性和混沌动力学特性。将此神经网络应用于函数优化和组合问题，并给出解决经典TSP问题的参数，经仿真试验证明，和以往的神经网络相比，该小波混沌神经网络具有更强的克服陷入极小点的能力。 　　1墨西哥帽小波混沌神经元模型 　　墨西哥帽小波混沌神经元模型的激励函数为Mexican Hat小波函数与 Sigmoid 函数之和，该模型的动力学定义如下： 　　xi(t)=M(yi(t))+S(yi(t)) （1） 　　yi(t+1)=kyi(t)-zi(xi(t)-I) （2） 　　M(T)=(1-μT(1+εi(t)))2exp(-(μT(1+εi(t)))2/2) （3） 　　S(T)=1/(1+exp(-T/τ)) （4） 　　zi(t+1)=(1-β)zi(t) （5） 　　εi(t+1)=(1-γ)εi （6） 　　其中xi、yi和I