第3章 模拟退火算法精要.ppt

模拟退火算法的改进 也可通过增加某些环节而实现对模拟退火算法的改进。主要的改进方式包括： (1) 增加升温或重升温过程。在算法进程的适当时机，将温度适当提高，从而可激活各状态的接受概率，以调整搜索进程中的当前状态，避免算法在局部极小解处停滞不前。 (2) 增加记忆功能。为避免搜索过程中由于执行概率接受环节而遗失当前遇到的最优解，可通过增加存储环节，将“Best So Far”的状态记忆下来。 (3) 增加补充搜索过程。即在退火过程结束后，以搜索到的最优解为初始状态，再次执行模拟退火过程或局部性搜索。 (4) 对每一当前状态，采用多次搜索策略，以概率接受区域内的最优状态，而非标准SA的单次比较方式。 (5) 结合其他搜索机制的算法，如遗传算法、混沌搜索等。 (6)上述各方法的综合应用。 算法实现与应用 TSP问题的求解 编码（城市编号顺序编码） 状态产生函数（逆转算子） 状态接受函数 初温与初始状态， T0=－?max/pr 降温函数设计 温度修改准则和算法终止准则 结果（400个城市） 结果（400个城市） 第三章 模拟退火算法（Simulated Annealing） 搜索问题描述 除高度信息外，对环境没有任何感知能力 最优解位于海拔最高处 可以任意方式移动 搜索问题描述 Landscape with various features Objective function shoulder global max local max flat local max current state State space 搜索算法 盲目搜索还是启发式搜索？ 按照预定的控制策略实行搜索，在搜索过程中获取的中间信息不用来改进控制策略，称为盲目搜索，反之，称为启发式搜索。 关于“启发式”，可有两种看法： 1) 任何有助于找到问题的最优解，但不能保证找到最优解的方法均是启发式方法； 2) 有助于加速求解过程和找到较优解的方法是启发式方法。 搜索算法 盲目搜索 深度优先、广度优先、代价优先、向前、向后、双向。。。 启发式搜索 爬山法、模拟退火算法、遗传算法、粒子群算法、蚁群算法。。。 贪心算法 随机选定一个初始解x0； Do while （终止条件不满足） 在某个邻域函数所定义的邻域范围内，按照某个（随机）扰动?产生策略，得到一个新解xi’； 对新解进行评估，得f(xi’)； 如果f(xi’) f(xi)（或者f(xi’) f(xi) ），即新解比老解好，则令xi＋1＝xi’； 否则， xi＋1＝xi。 End Do 爬山法 随机选定一个初始解x0； Do while （中止条件不满足） 在某个邻域函数所定义的邻域范围内，按照某个（随机）扰动?产生策略，得到多个新解Xnew={xi1, xi2,…, xik}； 对这组新解进行评估，得{f(xi1), f(xi2), … , f(xik)}； xi＋1＝xi’, xi’ ? Xnew, ?xij, (i =1,2,…,n; j=1,2,…,k), f(xi’) f(xi) 且f(xi’) f(xij)（或者f(xi’) f(xi) 且f(xi’) f(xij) ），即新的当前解比老解好，并且是所有新解中最好的一个； 如果， ?xij, (i =1,2,…,n; j=1,2,…,k), f(xi) f(xij)（或者f(xi) f(xij) ），则 xi＋1＝xi 。 End Do 特点 快速收敛于局部最优解 特点 遇到平台则无以事从 算法设计要素 编码策略（ “个体表示”与“问题解”的映射关系） 初始解的产生（从什么位置开始搜索） 邻域函数的设计（下一个解的产生概率与当前解之间[包括方向和步长]的关系） 新解产生策略（随机，确定） 接受策略（贪心） 存在问题： 对初始解（状态）敏感 容易陷入局部最优 模拟退火算法（起源） 物理退火原理 模拟退火算法（起源） 物理退火过程： 加温过程 等温过程 冷却（退火）过程 等温下热平衡过程可用Monte Carlo方法模拟，计算量大。 1953年，Metropolis提出重要性采样法，即以概率接受新状态，称Metropolis准则，计算量相对Monte Carlo方法显著减少。 1983年，Kirkpatrick等提出模拟退火算法，并将其应用于组合优化问题的求解。 模拟退火算法（Metropolis准则） Metropolis准则 假设在状态xold时，系统受到某种扰动而使其状态变为xnew。与此相对应，系统的能量也从E(xold)变成E(xnew)，系统由状态xold变为状态xnew的接受概率p： 模拟退火算法与物理退火过程的相似关系 模拟退火 物理退火 解 粒子状态 最优解 能量最低态 设定初温 熔解过程 Metropoli