基于群体智能的数据挖掘方法及应用.pptVIP

其它生物启发式计算技术 进化规划算法 进化编程 人工免疫系统 DNA计算 膜计算等 * 报告内容 1 启发式计算方法研究背景 2 生物启发式计算方法 3 群体智能优化方法（SI） 4 SI算法在管理中的应用 5 实例研究 * 群体智能（Swarm Intelligence） 生物学家研究表明：在这些群居生物中虽然每个个体的智能不高，行为简单，也不存在集中的指挥，但由这些单个个体组成的群体，似乎在某种内在规律的作用下，却表现出异常复杂而有序的群体行为。 A C * A C * A C * 轨迹更新: Visibility: ?ij = 1/dij 蚂蚁算法 表示轨迹的相对重要性 表示能见度的相对重要性 轨迹的持久性 表示第K只蚂蚁在本次循环中留在路径ij上的信息量 * 生物社会学家E.O.Wilson指出：“至少从理论上，在搜索食物过程中群体中个体成员可以得益于所有其他成员的发现和先前的经历。当食物源不可预测地零星分布时，这种协作带来的优势是决定性的，远大于对食物的竞争带来的劣势。” 鱼群觅食模型 * 避免碰撞 速度匹配 中心聚集 鸟群的飞行行为 * 鸟群觅食模型 Food Global Best Solution Past Best Solution * Randomly searching foods 社会型行为的模拟 * 认知行为 （Cognition Behavior） 先前经验 2 6 Max * 社会行为 （Social Behavior） We tend to adjust our beliefs and attitudes to conform with those of our social peers. １ ２ ５ Max 人类社会系统 * 粒子群算法介绍 每个寻优的问题解都被想像成一支鸟，也称为“Particle”。 所有的Particle 都有一个fitness function 以判断目前的位置之好坏， 每一个Particle具有记忆性，能记得所搜寻到最佳位置。 每一个Particle 还有一个速度以决定飞行的距离与方向。 * 局部 最优解 全局 最优解 运动向量 惯性向量 Study Factor Here I am! The best position of team My best position x(t) pg pi v PBest gBest x(t+1) 速度与位置更新 * 算法流程 Initialization ：将群族做初始化，以随机的方式求出每一Particle 之初始位置与速度。 Evaluation：依据fitness function 计算出其fitness value 以作为判断每一个Particle之好坏。 Find Pbest ：找出每一个Particle 到目前为止的搜寻过程中最佳解，这个最佳解称之为Pbest。 Find the Gbest：找出所有群体中的最佳解，此最佳解称之为Gbest。 Update the Velocity and position： 根据速度与位置公式 更新每一Particle的速度与位置。 Termination. 返回步骤2继续执行，直到获得一个令人满意的结果或符合终止条件为止。 * 参数选择 粒子数: 一般取 20 – 40. 其实对于大部分的问题10个粒子已经足够可以取得好的结果, 不过对于比较难的问题或者特定类别的问题, 粒子数可以取到100 或 200 粒子的维数: 这是由优化问题决定, 就是问题解的长度 粒子的范围: 由优化问题决定,每一维可是设定不同的范围 Vmax: 最大速度,决定粒子在一个循环中最大的移动距离,通常设定为粒子的范围宽度 学习因子: c1 和 c2 通常等于 2. 不过在文献中也有其他的取值. 但是一般 c1 等于 c2 并且范围在0和4之间 中止条件: 最大循环数以及最小错误要求. * PSO与遗传算法的比较 相同点 都是基于种群的 都需要适应度函数. 都是随机计算技术 不能保证100%收敛  不同点 PSO没有交叉变异等进化操作 . PSO中通过粒子的竞争与协作实现种群进化 粒子具有记忆能力  优点 PSO 容易实现具有较小的调整参数 收敛速度快、解质量高、鲁棒性好 * Schwefels function * 初始状态 * 5代后 * 10代后 * 15代后 * 100代后 * 500代后 * 最终结果 迭代次数 搜寻结果 0 416.245599 5 515.748796 10 759.404006 15 793.732019 20 834.813763 100 837.911535 5000 837.965771 最优解 837.9658 * * * * * * *