BP网络改进算法的性能对比研究.pdfVIP

第 16 卷 第 2 期 　控　制　与　决　策 200 1 年 3 月 V o l. 16 N o. 2 CON TR OL 　A N D 　D E C IS ION 　 　 M ar. 200 1 ( ) 　　文章编号: 100 10920 200 1 020 16705 BP 网络改进算法的性能对比研究 高雪鹏, 丛　爽 ( 中国科学技术大学 自动化系, 安徽 合肥 230027) 摘　要: 通过实例对几种具有代表性的用以训练B P 网络权值的改进算法进行性能对比研究。首先分析 了基于标准梯度下降法和基于标准数值优化方法获得的各种改进算法的优缺点, 然后对各种改进算法 在训练中所需的收敛时间及其所达误差进行对比分析。其结果为选择训练网络的算法, 开阔人们对算法 改进的思路提供了一些借鉴。 关键词: 梯度下降法; 数值优化; 学习速度; 性能对比 中图分类号: T P 183　　　　文献标识码: A Com para t ive Study on Fa st L earn in g A lgor ithm s of BP Networks , GA O X u e p eng CON G S h uang ( , , 230027, ) D ep ar tm en t o f A u tom at ion U n iver sity o f Scien ce an d T echno logy o f Ch in a H efei Ch in a Abstract: A com p arat ive stu dy on som e typ ica l fa ster learn ing a lgo r ithm s o f B P n etw o rk s is p ropo sed. F ir st ly , th e advan tage s an d d isadvan tage s o f tw o m a in catego r ie s, th e fa st a lgo r ithm s b a sed on stan dard , . steep e st de scen t an d stan dard num er ica l op t im izat ion are an a ly sed by m ean s o f th eir w o rk p r in cip le s T h en th e com p arat ive stu dy on convergen ce t im e s an d er ro r p erfo rm an ce o f t ra in ing o f tho se fa ster a lgo . r ithm s