机器学习03__粒子群优化算法.pdf免费

机器学习—— —— 粒子群优化算法 粒子群优化算法 Particle Swarm Optimization Particle Swarm Optimization -PSO -PSO 智能工程研究室 计算机科学与技术学院 大纲 l一、算法概述 l二、产生基础 l三、算法内容 l四、和其它优化算法的比较 l五、应用举例 2 算 法 概 述 算 法 概 述 l PSO是Kennedy Eberhart于1995年提 出的 – Kennedy 博士 心理学研究人员 /cathyk/jimk.html – Eberhart 博士 计算智能 /~eberhart/ l PSO是一种基于叠代的优化工具 l PSO概念简单 容易实现 Kennedy J. and Eberhart R.C., Particle swarm optimization, Proceedings of the IEEE International Conference on Neural Networks, 1995 ，pp.1942–1948. 3 算 法 概 述 算 法 概 述 l应用领域广 发展很快 – 系统设计、多目标优化、分类、模式识别、 信号处理、机器人技术应用、决策制定、模 拟和证明等 – 目前被“ 国际进化计算会议”(IEEE International Conferences on Evolutionary Computation, CEC)列为一个讨论的专题。 4 背 景 背 景 l对鸟群行为的模拟： – Reynolds 、Heppner和Grenader提出鸟群 行为的模拟。他们发现，鸟群在行进中 会突然同步的改变方向，散开或者聚集 等。那么一定有某种潜在的能力或规则 保证了这些同步的行为。这些科学家都 认为上述行为是基于不可预知的鸟类社 会行为中的群体动态学。 – 在这些早期的模型中仅仅依赖个体间距 – 在这些早期的模型中仅仅依赖个体间距 的操作，也就是说，这种同步是鸟群中 的操作，也就是说，这种同步是鸟群中 个体之间努力保持最优的距离的结果。 个体之间努力保持最优的距离的结果。 5 背 景 背 景 l对鱼群行为的研究： – 生物社会学家E.O. Wilson对鱼群进行了 研究。提出：“至少在理论上，鱼群的 个体成员能够受益于群体中其它个体在 寻找食物