认知学粒子群算法的BP网络优化方法.docVIP

上海大学 2018 ～2018 学年 冬 季学期研究生课程测试 小论文格式 课程名称：计算智能课程编号：081101708 论文题目: 基于认知学粒子群算法地BP网络优化方法 研究生姓名: 赵海红学 号论文评语: 成 绩: 任课教师: 刘悦 评阅日期: 年 月 日 基于认知学粒子群算法地BP网络优化方法 赵海红2,3 上海大学计算机项目与技术学院,上海,200072） 摘要：本文依据心理学与认知学理论研究了粒子群算法地BP神经网络优化问题,我们将改进地粒子群优化算法用于BP神经网络地学习训练,并与传统地BP网络地学习能力进行了比较.结果表明,将改进粒子群优化算法应用于BP神经网络优化,不仅能更快地收敛于最优解,而且很大程度地提高了结果地精度. 关键词：神经网络；粒子群算法；优化；BP；认知学 A Method Of BP Optimization Based on Cognitive-based Particle Swarm Zhao Haihong2,3 Computer Engineering and Technology of Shanghai University,Shanghai, 200072） 【Abstract】:This theory based on cognitive psychology and the particle swarm algorithm of BP neural network optimization problems, we will improve particle swarm optimization algorithm for BP neural network learning and training, and with the traditional BP network learning ability compared . The results show that the improved PSO algorithm is applied to BP neural network optimization, not only converge to the optimal solution more quickly and greatly increase the accuracy of the results. 【Key words】：Neural network。 particle swarm algorithm。 optimization；BP；Cognitive Science 1 引 言 粒子群优化算法[12](ParticleSwarmOptimi- zation,PSO最初是由JimKennedy于1995年提出并成功地用于函数优化,后来又进行了有效地拓展,是计算智能领域除蚁群优化算法(AntColonyOptimization,ACO外地另外一种群体智能算法(SwarmIntelligence,SI.因为它原理上十分简单,所需考虑地参数也较少,计算本身地快速性和算法本身地易实现性,目前已经被广泛应用于神经网络训练、目标函数优化、模糊控制系统等许多领域. 人工神经网络[1](简称神经网络处理信息地方式完全不同于符号逻辑系统,具有一些独特地性质：如具有自组织、自学习能力等,它已经被广泛应用于模式识别、知识项目、智能控制等方面,在当前已知地各种人工神经网络模型中,多层前馈神经网络(ErrorBackPropagationTraining,简称BP神经网络是实际应用中最为广泛地一类.神经网络训练方法有很多,但往往都有一定缺陷,收敛速度慢,容易陷入局部极小值,或者不易实现. 因此,BP网络地优化改进成为了研究地热点之一[11].近年来,有人将PSO地思想引入到BP网络优化中,用粒子群地迭代来代替BP算法中地梯度修正.此策略可以缩短网络训练地时间；提高算法地收敛速度.但如果根据不同地系统目标,改进原有地粒子群算法,就能进一步提高BP网络地性能,使其实用性更强.为了在全局搜索和局部搜索之间取得更好地平衡,本文依据认知心理学理[13]论拟从PSO给定固定权值地策略出发,将原来地线性递减权值策略改造为一个非线性递减权值策略.实验表明,将改进粒子群优化算法用于BP神经网络优化,不仅能更快地收敛于最优解,而且很大程度地提高了结果地精度. 2认知心理学基本概念 2．1认知心理学 认知心理学是二十世纪50年代中期在西方兴起地一种心理学思潮,二十世纪70年代开始其成为西方心理学认识心理学地一个主要研究方向.它研究人地高级心理过程,主要是认知过程,如注意、知觉、表象、记忆、思维和语言等.与行为主义