IOA-SAA-1 - 北大未名BBS - 北京大学校园论坛北 .pptVIP

第九章 粒子群优化 (II) 内 容 基本原理 PSO流程 PSO特点 PSO改进 PSO混合 基本原理 PSO 即源于对鸟群捕食行为的研究, 一群鸟在随机搜寻食物, 每只鸟判断前进的依据来自两个方面，个人获得的有关食物的信息以及其他鸟前进的信息，当某只鸟找到食物后，整个鸟群都找到了食物。 人们通常是以他们自己及他人的经验来作为决策的依据, 这就构成了PSO 的一个基本概念。 基本原理 其实这也是人类社会常用的决策方式 人们通常是以他们自己及他人或者社会的经验来作为决策的依据。 比如高考选择学校 比如推研选择专业 比如推研选择导师 基本原理 但并非都是有利的 随波逐流，盲目跟风，导致迷失自我 商业中被用来欺诈 比如出国 比如选专业 基本原理 问题的解对应于搜索空间中一只鸟的位置, 称这些鸟为“粒子”(particle) 。 每个粒子都有自己的位置、速度和适应度 位置对应当前所找到的解 速度用于决定飞行的方向和远近 适应度表征当前位置的优劣，由被优化函数决定 基本原理 初始化为一群随机粒子(随机解) , 在每一次迭代中, 粒子通过跟踪两个“极值”来更新自己的状态 第一个就是粒子本身所找到的最优解, 叫做个体极值点(用pbest 表示其位置) 另一个极值点是整个种群目前找到的最优解(用gbest 表示其位置)或者当前邻居找到的最优解(用lbest 表示其位置) 基本原理 粒子i 的状态可以用D 维向量表示 位置表示为 Xi = ( xi1 , xi2 , . . . , xiD)T 速度为 Vi =( vi1 , vi2 , . . . , viD)T 其它向量类似 速度和位置迭代方程为 基本原理 基本原理 pbestid是粒子i 在第d 维的个体极值点的位置; gbestd 是整个群在第d 维的全局极值点的位置。 为防止粒子远离搜索空间, 粒子的每一维速度vd 都会被钳位在[ -vdmax , +vdmax ] 之间 vdmax太大, 粒子将飞离最优解, 太小将会陷入局部最优 。 设将搜索空间的第d 维定义为区间[ -xdmax , +xdmax ] , 则通常vdmax = kxdmax , 0.1≤k ≤1。 PSO流程 PSO流程 PSO流程 PSO流程 PSO特点 算法简单容易实现 参数不多 不需要问题本身信息 多点搜索 PSO特点 全局版收敛速度快，但容易陷入局部极小 局部版收敛速度慢，有可能分成几个小组搜索，不容易陷入局部极小 实际应用中可以先全局搜索，找到粗略位置，再用局部精细搜索 二进制PSO PSO最先用于函数优化问题，为了能够应用于组合优化问题，提出二进制PSO 位置都只取值0或1，速度取值没有限制，根据事先设定的阈值，高于阈值，则位置变为1，否则变为0，可以采用Sigmoid函数 理论基础 缺乏收敛性证明 缺乏收敛效率分析 PSO改进 增加惯性权重 用惯性权重来控制前面的速度对当前速度的影响, 较大的w 可以加强PSO 的全局搜索能力, 而较小的w 能加强局部搜索能力。 PSO改进 惯性权重 基本的PSO 可以看作w = 1 , 因此在迭代后期缺少局部搜索能力。 实验结果表明, w 在[ 0.8 , 1.2 ] 之间PSO有更快的收敛速度。 也可以随着时间逐渐下降，使得算法早期可以快速搜索，后期可以精细搜索，类似于SA的退火温度 PSO改进 模糊惯性权重 用模糊控制器来动态自适应地改变惯性权重的技术 能够自适应的降低权重，比简单线性下降更合理，但是对具体问题需要了解才能设计控制器，不便于应用。 PSO改进 增加压缩因子 　约束因子法控制系统行为最终收敛, 且可以有效搜索不同的区域, 该法能得到高质量的解 PSO改进 增加压缩因子 PSO改进 空间邻域 传统的局部PSO，邻居是事先标定，可改为按实际空间位置划分，事先设定一个邻居半径，距离在半径之内的是邻居，否则不是 PSO改进 空间拓扑 从最初的环形拓扑修改为随机图拓扑 PSO改进 空间拓扑 拓扑非常影响算法的性能, 且最佳的拓扑形式因问题而定。 如对有很多局部最优的函数, 轮形拓扑邻域算法能得到最好的结果, 由于较慢的信息流动; 而对于单峰函数, 星形拓扑邻域算法可以产生较好的结果, 因为它有较快的信息流动 PSO改进 社会趋同心理 生活中人们往往是试图追随一个群体的共同观点, 而不是群体中某个人的立场。 将该思想应用到PSO中, 即不用每个粒子的经验而是用它所属空间聚类的共同经验来更新自己。 PSO改进 特别处理当前最优个体 如果个体正处于目前的最优位置，则速度不变，容易导致早熟 对最优粒子用一个新的更新方程, 方程将该粒子的位置复位到全局极值点, 并且使其在全局最优位置附近产生一个随机搜索, 而其他粒子仍用原方程更新。