现代优化算法(chwu)技术介绍.ppt

现代优化算法;优化模型 ;最优化问题(Optimization Problem);习惯上，将优化算法分为两类：局部优化算法和全局性优化算法。 前者可以称为经典优化算法，已经得到了人们广泛深入的研究。目前，运筹学（确定论方法）主要包括这些方面的内容，线性规划、整数规划、0–1规划、非线性规划、排队论、决策论。 后者习惯上称为现代优化算法，是20世纪80年代兴起的新型全局性优化算法，主要包括禁忌搜索、模拟退火、遗传算法等，其主要应用对象是优化问题中的难解问题，即NP–hard问题。 ; P问题：如果一个问题可以找到一个能在多项式的时间里解决它的算法，那么这个问题就属于P问题。也就是说它的计算复杂度是一个多项式。我们通常用的O(n), O(logn), O(n^a)等等类似的都是这类问题。;常用的现代优化算法 ;待解决的问题 离散性、连续的、不确定性、大规模 现代的优化方法 启发式算法（heuristic algorithm） 追求满意（近似解） 实用性强（解决实际工程问题） 现代的评价方法 算法复杂性;典型问题——旅行商问题（Traveling salesman problem, TSP） ; ; 12.1 模拟退火算法 (Simulated Annealing Algorithm); 什么是退火： 退火是指将固体加热到足够高的温度，使分子呈随机排列状态，然后逐步降温使之冷却，最后分子以低能状态排列，固体达到某种稳定状态。 ; 等温过程——对于与环境换热而温度不变的封闭系统， 系统状态的自发变化总是朝自由能减少的 方向进行，当自由能达到最小时，系统达到 平衡态；;数学表述 在温度T，分子停留在状态r满足Boltzmann概率分布;数学表述 在同一个温度T，选定两个能量E1E2，有 ; 物理退火过程;Metropolis准则（1953）——以概率接受新状态 ; 物理退火过程;Metropolis准则（1953）——以概率接受新状态 p=exp[-(Ej-Ei)/kBT] ; 组合优化与物理退火的相似性;SAA算法描述; 在模拟退火算法中应注意以下问题;案例讲解;问题分析;算法描述(解空间与目标函数);算法描述;算法描述;算法描述;Matlab程序;Matlab程序;Matlab程序;Matlab程序;Matlab程序;Matlab程序;影响优化结果的主要因素 给定初温t=t0，随机产生初始状态s=s0，令k=0； Repeat Repeat 产生新状态sj=Genete(s)； if min{1,exp[-(C(sj)-C(s))/tk]}=randrom[0,1] s=sj; Until 抽样稳定准则满足； 退温tk+1=update(tk)并令k=k+1； Until 算法终止准则满足； 输出算法搜索结果。;模拟退火算法的优点 质量高； 初值鲁棒性强； 简单、通用、易实现。 模拟退火算法的缺点 由于要求较高的初始温度、较慢的降温速率、较低的终止温度，以及各温度下足够多次的抽样，因此优化过程较长。;12.2 遗传算法(Genetic Algorithm);遗传算法(GA); 遗传算法模拟自然选择和自然遗传过程中发生 的繁殖、交叉和基因突变现象，在每次迭代中 都保留一组候选解，并按某种指标从解群中选 取较优的个体，利用遗传算子(选择、交叉和变 异)对这些个体进行组合，产生新一代的候选解 群，重复此过程，直到满足某种收敛指标为止。;适者生存(Survival of the Fittest) GA主要采用的进化规则是“适者生存” 较好的解保留，较差的解淘汰 ;基本遗传算法;SGA实例1：函数最值;SGA实例1 max x2 : 选择操作;SGA实例1 max x2 : 交叉操作;SGA实例1 max x2 : 变异操作;局部;We have a dream!!;Dead one;Not at the top, Come Up!!!;I am the BEST !!!;生物进化与遗传算法对应关系