基于MQPSO-LQPSO的RBF神经网络训练方法.docVIP

基于MQPSO-LQPSO的RBF神经网络训练方法 　　摘 要:带有局部搜索的量子粒子群算法是一种较为成功的改进型量子粒子群算法。将该算法用于RBF神经网络的结构优化和参数优化,在确定网络参数的同时也确定了网络的结构。在函数逼近上的仿真实验表明,这种优化是有效的。 　　关键词:带有局部搜索的量子粒子群算法;RBF神经网络;结构优化;参数优化 　　中图分类号:TP181文献标识码:A 　　文章编号:1004-373X(2010)04-157-03 　　 　　RBF Neural Network Training Based on MQPSO-LQPSO 　　CAI Jiliang,YE Wei 　　(College of Science,Air Force Engineering University,Xi′ an,710051,China) 　　Abstract:Quantum-Behaved Particle Swarm Optimization with Generalized Local Search Operator(MQPSO -LQPSO) is a very successful algorithm of modified QPSO.This algorithm is used to find the best structure and parameters of RBF neural network.They are both determined when finishing training.Experiments on functional approach show this method is effective. 　　Keywords:MQPSO-LQPSO;RBF neural network;structure optimization;parameter optimization 　　 　　0 引 言 　　 　　径向基函数神经网络(Radial Basis Function Neural Network,RBFNN)是一种生物背景很强的前向神经网络,具有逼近能力强、学习速度快、鲁棒性强、泛化能力高等优点,在图像处理、自动控制、预测、信号处理、模式识别等多个领得到了广泛应用。 　　然而RBF神经网络存在着结构难以选取、参数的问题,许多学者对其训练方式进行了改进。与进化算法如遗传算法GA[1]、蚁群算法ACO[2]、粒子群算法PSO[3]、量子粒子群算法QPSO[4]等相结合是一个重要的改进方向。然而GA、ACO算法较为复杂,PSO算法简单但不能以概率1收敛到全局极小点,QPSO算能以概率1收敛到全局极小点,但搜索能力不够好,这些使得网络或陷入局部极小,或运算时间长,一定程度上影响了网络的性能。本文用简单且收敛性更好的QPSO??改进型算法MQPSO-LQPSO来训练网络,将网络的结构也作为编码对象,在确定网络参数的同时也确定了网络的结构,提高了精度。 　　 　　1 RBF神经网络 　　 　　径向基函数神经网络是J.Moody 和C.Darken于20世纪80年代受人脑感受野的局部调节及重叠性启发而提出的,已经证明它能以任意精度逼近任意连续函数。径向基函数神经网络由输入层、隐层和输出层组成,其结构如图1 所示。输入层只传递输入信号到隐层;隐层传递函数由辐射状作用的非线性基函数组成,一般用Gauss径向基函数;输出为为线性传递函数。具有n个输入,h个隐节点,m个输出的径向基函数网络第i个模型输出为: 　　yi=ti+∑hj=1??wij??exp(-‖x-Cj‖2/2σ2j)(1) 　　图1 RBF神经网络结构 　　 　　2 QPSO算法[5,6] 　　 　　在量子空间中,粒子的速度和位置不能同时确定,因此Sun等人用粒子运动的波函数来描述粒子的状态,并求解薛定谔方程,得到粒子在空间某一位置的概率密度函数,进而得到位置的分布函数,应用Monte Carlo方法(详见文献[5,6],最后得到算法的进化方程: 　　Pij??(t)=φij??(t)Pbestij??(t)+[1-φij??(t)]Gbestij??(t), 　　φij??(t)～U(0,1)(2) 　　Mbestij??(t)=1N∑nj=1??pi(t)=[1N∑nj=1??pi1??(t), 　　1N∑nj=1??pi2??(t),…,1N∑nj=1??piD??(t)](3) 　　xij??(t+1)=Pij??(t)+αMbestij??(t)-xij??(t)ln1uij??, 　　if rand()0.5 　　Pij??(t)-αMbestij??(t)-xi