第二十三章 现代优化算法第二十三章 现代优化算法.pdfVIP

第二十三章 现代优化算法 现代优化算法是 80 年代初兴起的启发式算法。这些算法包括禁忌搜索（tabu search ），模拟退火（simulated annealing ），遗传算法（genetic algorithms ），人工神经网 络（neural networks ）。它们主要用于解决大量的实际应用问题。目前，这些算法在理论 和实际应用方面得到了较大的发展。无论这些算法是怎样产生的，它们有一个共同的目 标－求 NP-hard 组合优化问题的全局最优解。虽然有这些目标，但 NP-hard 理论限制它 们只能以启发式的算法去求解实际问题。 启发式算法包含的算法很多，例如解决复杂优化问题的蚁群算法（Ant Colony Algorithms ）。有些启发式算法是根据实际问题而产生的，如解空间分解、解空间的限 制等；另一类算法是集成算法，这些算法是诸多启发式算法的合成。 现代优化算法解决组合优化问题，如 TSP （Traveling Salesman Problem ）问题，QAP （Quadratic Assignment Problem ）问题，JSP （Job-shop Scheduling Problem ）问题等效 果很好。 §1 模拟退火算法 1.1 算法简介 模拟退火算法得益于材料的统计力学的研究成果。统计力学表明材料中粒子的不 同结构对应于粒子的不同能量水平。在高温条件下，粒子的能量较高，可以自由运动和 重新排列。在低温条件下，粒子能量较低。如果从高温开始，非常缓慢地降温（这个过 程被称为退火），粒子就可以在每个温度下达到热平衡。当系统完全被冷却时，最终形 成处于低能状态的晶体。 如果用粒子的能量定义材料的状态，Metropolis 算法用一个简单的数学模型描述了 退火过程。假设材料在状态 之下的能量为E (i) ，那么材料在温度T 时从状态 进入状 i i 态j 就遵循如下规律： （1）如果E (j ) ≤E (i) ，接受该状态被转换。 （2 ）如果E (j ) E (i) ，则状态转换以如下概率被接受： ( )− ( ) E i E j KT e 其中K 是物理学中的波尔兹曼常数，T 是材料温度。 在某一个特定温度下，进行了充分的转换之后，材料将达到热平衡。这时材料处 于状态i 的概率满足波尔兹曼分布： E i ( ) − KT e P (x i) T E (j ) − KT ∑e j ∈S 其中x 表示材料当前状态的随机变量，S 表示状态空间集合。 显然 E i ( ) − e KT 1 lim T →∞ −E (j ) | S | KT ∑e j ∈S