利用模拟退火粒子群算法训练前向神经网络研究.pdfVIP

2005年中国模糊逻辑与计算智能联合学术会议论文集 利用模拟退火粒子群算法训练前向神经网络 王翠茹，袁和金，周春雷 摘要：针对前向神经网络训练中存在的计算速度慢和局部极小问题，提出了采用基于模拟退火的粒子群算法对三层 前向神经网络进行学习的新方法，给出了具体的训练步骤，并通过实例对文中提出的方法进行了验算。结果表明文中 提出的算法具有训练速度快、全局收敛性好等特点。 关键词：粒子群优化算法；神经网络；模拟退火 the inthe on ParticleSwarm Study Algorithm’SApplication ofNeuralNetworkBasedon Training SimulatingAnnealing WANG Chui．钯i Cui—ru．YUAN He-fin．ZHOU of ofNorthChinaElectricPower 071003．Email： (SchoolComputerSciencetechnology Univeristy,Banding wangcuirul@eyou．tom．cn) Abstract：Sincethe forfeed—forwardneuralnetworkshas weaknesses．suchaslow existingtraining many algorithm andlocal Swarm on minimum，anovel Particle based computationspeed Mgorithmusing OptimizationSimulatingAnnealing is inthe aredescribedindetails．The resultdemonstratesthatthe techniqueproposedpaper．Thetrainingsteps experimental newmethodinthis hasthe of and paper advantagehightrainingspeed globalconvergence． good Swarm Keywords：ParticleOptimization，NeuralNetwork，SimulatingAaneaiing 献Ⅲ提出的BP算法，但是这种方法收敛速度较慢且 容易陷入局部极小；(2)线性化算法，它一般收敛 1引言 较快，但是容易过早收敛；(3)随机优化算法，包 括遗传算法(GA)、演化算法(EA)、模拟退火算法 人工神经网络(ANN)是由大量神经元互连而(SA)等，这些算法可以处理离散、非凸的非线性问 成的，是对生物神经网络的模拟，是新近发展起来 题，在搜索方法上采用随机搜索，具有一定的全局 的一门交叉学科，它涉及生物、电子、计算机、数 搜索能力。文献【4】给出了一种用进化算法训练神经 学和物理等学科。人工神经网络具有高速的运算能 网络的方法，文献【5】给出了利用人工鱼群算法优化