基于粒子群优化的神经网络训练算法研究2004.pdfVIP

第 9 期 电　　子　　学　　报 Vol. 32 　No. 9 　2004 年 9 月 ACTA ELECTRONICA SINICA Sep. 　2004 　 基于粒子群优化的神经网络训练算法研究 高海兵 ,高 　亮 ,周 　驰 ,喻道远 (华中科技大学工业工程系自动化所 ,湖北武汉 430074) ( ) 　　摘 　要 : 　本文提出了基于连接结构优化的粒子群优化算法 SPSO 用于神经网络训练 ,该算法在训练神经网络权 值的同时优化其连接结构 ,删除冗余连接 ,使神经网络获得与模式分类问题匹配的信息处理能力. 经 SPSO 训练的神经 网络应用于 Iris ,Ionosphere 以及Breast cancer 模式分类问题 ,能够部分消除冗余分类参数及冗余连接结构对分类性能 的影响. 与 BP 算法及遗传算法比较 ,该算法在提高分类误差精度的同时可加快训练收敛的速度. 仿真结果表明 ,SPSO 是有效的神经网络训练算法. 关键词 : 　粒子群优化 ; 神经网络 ; 遗传算法 ; 模式分类 中图分类号: 　TP183 　　　文献标识码 : 　A 　　　文章编号 : (2004) Particle Swarm Optimization Ba sed Algorithm for Neural Network Learning GAO Haibing ,GAO Liang ,ZHOU Chi ,YU Daoyuan ( ) Inst of Automation , Dept . of Industrial Engineering , Huazhong Univ of Sci Tech , Wuhan, Hubei 430074 , China Abstract : 　This paper proposes a structureimproving particle swarm optimization ( SPSO) algorithm for training artificial neural network (ANN) . The algorithm is successfully applied to pattern classification problems including Iris ,ionosphere and breast cancer. By tuning the structure and connection weights of ANN simultaneously ,the proposed algorithm generates optimized ANN with problem matched capacity for processing classification information. By doing this ,it also eliminates some ill effects introduced by redundant in put features and the corresponding structure of ANN. Compared with BP and GA based training techniques ,SPSO can improve the clas sification accuracy wh