现代优化方法之模拟退火解读.pptVIP

第三部分 现代优化方法选讲 现代优化方法包括禁忌搜索、模拟退火、智能计算等。 其中模拟退火、神经网络和遗传算法并称为现代优化算法中的三大杰出代表。 一、模拟退火算法 在管理科学、计算机科学、分子物理学、生物学、超大规模集成电路设计、代码设计、图象处理和电子工程等领域中，存在着大量的组合优化问题。例如，货郎担问题、最大截问题、0—1背包问题、图着色问题、设备布局问题以及布线问题等，这些问题至今仍未找到多项式时间算法。这些问题已被证明是NP完全问题。 根据NP完全性理论，除非P=NP，否则所有的NP难问题都不存在多项式时间算法。但是，这并不意味着问题的终结。相反，由于这类问题广泛应用性，反而刺激人们以 更大的热情对NP完全问题进行研究。 为解决这类问题，人们提出了许多近似算法，但这些算法或过于注意个别问题的特征而缺乏通用性，或因所得解强烈地依赖初始解的选择而缺乏实用性。模拟退 火算法是近年提出的一种适合解大规模组合优化问题，特别是解NP完全问题的通用有效的近似算法，与以往近似算法相比，具有描述简单、使用灵活、运用广泛、运行效率高和较少受初始条件限制的优点，而且特别适合并行计算，因此具有很大的使用价值。同时由于其讨论涉及随机分析、马氏链理论、渐进收敛性等学科，所 以其研究还具有重要的理论意义。 1. 模拟退火算法的物理背景 固体退火过程的物理图象和统计性质是模拟退火算法的物理背景。在热力学与统计物理学的研究领域中，固体退火是其重要的研究对象。固体退火是指先将固体加热至熔化，再徐徐冷却使之凝固成规整晶体的热力学过程。 在高温状态下，液体的分子彼此之间可以自由移动。如果液体徐徐冷却，它的分子就会丧失由于温度而引起的流动性。这时原子就会自己排列起来而形成一种纯晶体，它们依次地朝各个方向几十亿倍于单个原子大小的距离，这个纯晶状态就是该系统的最小能量状态，有趣的是：对于一个徐徐冷却的系统，当这些原子在逐渐失去活力的同时，它们自己就同时地排列 而形成一个纯晶体，使这个系统的能量达到其最小值。这里我们特别强调在这个物理系统的冷却过程中，这些原子就同时的把它们自己排列成一个纯晶体的。如果一种金属熔液是被快速的冷却，则它不能达到纯晶体状态，而是变成一种多晶体或非晶体状态，系统处在这种状态时具有较高的能量。 模拟退火算法就是模仿上述物理系统徐徐退火过程的一种通用随机搜索技术，可用马氏链的遍历理论给它以数学上的描述。在搜索最优解的过程中，模拟退火除了可以接受优化解外，还用一个随机准则(Metropolis准则)有限地接受恶化解，并使接受恶化解的概率逐渐趋于零，这使得算法有可能从局部最优解中跳出，尽可能找到全局最优解，并保证了算法的收敛性。 1982年Kipatrick等人首次把固体退火与组合极小化联系在一起，他们分别用目标函数和组合极小化问题的解替代物理系统的能量和状态，从而物理系统内粒子的摄动等价于组合极小化问题中解的试探。极小化过程就是：首先在一个高温（温度现在就成为一个参数控制）状态下有效的“溶化”解空间，然后慢慢地降低温度直到系统“晶体”到一个稳定解。 通过以下示例，我们可以将组合优化问题与固体退火进行类比： 组合优化问题 固体退火 解 状态 最优解 能量最低状态 费用函数 能量 2. 模拟退火算法的基本思想与算法 用传统优化算法优化多峰值函数时，往往由于过分追求“下降”而极易陷于局部最优解。为了克服这个缺陷，在搜索最优解的过程中，模拟退火方法除了接受优化解外，还根据一个随机接受准则有限地接受恶化解，并使接受恶化解的概率逐渐趋于零。这既可使得算法以较大概率跳出局部最优解，又保证了算法的收敛性。 模拟退火算法的求解过程如下： (1) 随机产生初始解X0，给定初始温度T0，令k=0； (2) 随机产生新解 ，并计算函数增量 (3) 若 ，则接受新解， ，转(2)，否则以概率 决定是否接受新解。具体方法是：产生0和1之间的一个随机数r，若 ，接受新解，否则拒 绝新解； (4) 重复第(2),(3)步若