基于PSO的BP训练算法.pdf

维普资讯 第28卷 第 17期 计算机工程与设计 2007年9月 V01．28 N0．17 ComputerEngineeringandDesign Sept．2007 基于PSO的BP训练算法 钟慧玲 ， 李鸿洁 ， 李 冰 (1．华南理3-大学 电子商务学院，广东广州510006；2．华南理工大学 轻工与食品学院，广东广州510640) 摘 要：在BP训练算法中，关于变权值、学习速率、步长的问题 已被广泛地研究，几种基于启发式改进的技术也表明具有改 善训练时间以及避免陷入局部最小的明显效果。这里BP训练过程 由基于PSO同时优化 log—Sigmoid函数与网络权值的新算 法 (PSO。GainBP)实现。实验结果表明，PSO—GainBP比传统基于PSO的BP算法在网络训练方面具有更好的性能。 关键词：反向传播算法；粒子群优化；神经网络；传输函数；早熟收敛 中图法分类号：TP183 文献标识码：A 文章编号：1000—7024(2007)17。4205—02 ApproachforoptimizingBackPropagationtrainingbasedonPSO zHONGHui—ling，LIHong-jie，LIBing (1．CollegeofElectronicalBusiness，SouthChinaUniversityofTechnology,Guangzhou510006，China； 2．CollegeofLightIndustryandFoodSciences，SouthChinaUniversiytofTechnology,Guangzhou510640，China) Abstract：Theissueofvariableweight， learningrate， stepsizeandbiasintheBackpropagationtrainingalgorithm hasbeenwidelyin- vestigated．Severaltechniquesemployingheuristicfactorsaresuggestedtoimprovertainingtimeandreduceconvergencetolocalminima． Backpropagationrtainingisbasedonanew approachinwhichvariablegainofthelog—sigmoidfunctionnadweightsofthenetworkare bohtoptimizedbyusingparticleswarlTloptimizationtechnique．Thenew approachisimplementednadthertainingresultdemonsrtates htatthenew approachismoreefficientthanusualBPalgorithm basedonPSO． Keywords：BPalgorithm ；particleswarlTloptimization；ANN ；rtna sferfunction；matureconvergence BP网络的新方法，该方法能同时优化权值 以及神经元log—Sig— 0 引 言 moid函数。本文将新算法用于训练某项 目的实验数据，并给 粒子群优化算法…(particleswarmoptimization，PSO)是一类 出相关分析结果 。 新兴的随机全局优化技术，在问题的优化方面有着越来越广 1 BP训练 泛的应用，而其中的一个重要的应用就是训练A