基于免疫遗传算法和梯度下降的RBF网组合训练方法.pdfVIP

计 算 机 与 现 代 化 2011年第 3期 JISUANJIYUX[ANDAIH1，fA 总第 187期 文章编号：1006-2475(2011)03-0028-05 基于免疫遗传算法和梯度下降的RBF网组合训练方法 龙 华 (华南师范大学计算机学院，广东 广州510631) 摘要：免疫遗传算法除了具有简单遗传算法的全局寻优能力外，还具有免疫记忆、免疫调节及 多样性保持功能。梯度下 降算法训练神经网络收敛速度慢，容 易陷入局部最优，且受初始值的影响较大。本文综合两种方法的优点，提 出一种用 免疫遗传算法结合梯度下降算法的组合训练方法，用于RBF网的训练，并通过实验证明所提出的组合算法比简单遗传 算法结合梯度下降组合算法的速度更快并且最终误差更小。 关键词 ：RBF神经网络 ；免疫遗传算法；梯度下降 中图分类号 ：TP183 文献标识码 ：A doi：l0．3969／j．issn．1006-2475．20l1．03．OO9 CombinedAlgorithm forTrainingRBFNeuralNetworkBasedon ImmuneGeneticAlgorithm andGradientDescent LONC Hua (SchoolofComputerScience，SouthChinaNormalUniversity，Guangzhou510631，China) Abstract：Besidestheabilityof stochasticglobalsearchingofsimplegeneticalgorithm(SGA)，theimmunegeneticalgorithm (IGA)drawsintothemechanismswhichexistinbiologicalilnmunesystemsuchasimmunememory，immuneregulationandanti· bodydiversity．Thedeficienciesofgradientdescentmethodincludetheslowspeed0fconvergence，theproblem oflocal minima andthegreatinfluenceofinitialparameters ontheperformanceofthenetwork．Thispaperproposesanew’algorithm basedOHthe IGA combinedwithgradientdescent，andappliesthenew algorithm inthetrainingofRBFnetwork．Theexperimentalr~slllts showthealgorithm performswell，anditperformsbetterthanSGAcombinedwithgradientdescent． Keywords：radialbasisfunction(RBF)neuralnetworks；immunegeneticalgorithm；gradientdescent 法。当网络的输出是一个有多极点的复杂非线性函 U 号I 昌 数时，仅仅依靠梯度的 “爬坡”能力容易陷入局部最 径 向基函数神经网络(RadialBasisFunctionNeu． 优，且梯度下降算法训练速度慢，初始值的设定极大 ralNetwork，RBFNN)是一种常见的局部逼近神经网 地影响网络的训练结果。在文献 [4]中讲到的用遗 络…，以其简单的网络结构 、快速的学习方法 、较好