优化理论--chap3.docVIP

第三章 局部搜索多初始点选择的新策略 ((划分策略的性能分析 §1. 简介 局部搜索(Local Search)是一种求解组合优化问题的通用和实用的启发式方法。早在七十年代，Lin和Kernighan用局部搜索技术近似求解图划分问题(Graph Partitioning Problem)[ Kernighan Lin, 1970]和旅行商问题(Traveling Salesman Problem) [Lin Kernighan, 1973]取得了成功，引起了研究者对局部搜索技术的广泛关注[Papadimitriou Steiglitz, 1982]。九十年代，Selman、顾钧(J. Gu)等多位学者用局部搜索技术求解可满足性问题(Satisfiability Problem)取得了引人注目的实验成果[Selman et al., 1992, 1994; Gu, 1992, 1993, 1994]。近些年来比较流行的模拟退火(Simulated Annealing)算法[Kirpatrick et al., 1983]、遗传算法(Genetic Algorithm)[Goldberg, 1989]等启发式方法均可看成是局部搜索方法的进一步发展。此外，局部搜索技术与连续问题最优化方法也有深刻的联系。局部搜索在方法上的一般性和应用上的有效性促进了人们对它进行深入研究，邻域设计、多初始点选择、邻域搜索方式、停止策略以及有关的复杂性分析均成为研究中的重要内容[Papadimitriou Steiglitz, 1982; Johnson et al., 1988; Yannakakis, 1990]。 由于局部搜索方法在理论和应用上的重要性，对此技术所做的任何通用改进都是非常有意义的。其中，关于多初始点的选择，常用策略是均匀随机策略，即从搜索空间中按均匀分布独立重复选取多个初始点。1989年，贝尔实验室的Wong和Morris提出了一种基于划分搜索空间的选择多初始点的新策略((划分策略，证明了使用同样数目的初始点，在任一个实例下，任给搜索空间的一个划分，基于此划分的划分策略的性能优于基于同一划分的随机初始点策略(random initial point strategy，一种由Wong和Morris定义的基于划分搜索空间的非均匀随机取样策略)[Wong Morris, 1989]。1991年，Morris和Wong又将此方法和相应结果推广至连续优化问题并允许邻域搜索带有随机性[Morris Wong, 1991]。 但是，[Wong Morris, 1989]中的随机初始点策略只有在划分是均匀划分时才等价于常用策略。因此从[Wong Morris, 1989]仅能推出基于均匀划分的划分策略即均分策略优于常用策略。这就自然引出如何评价非均匀划分策略以及什么是最好的划分策略的问题。[Wong Morris, 1989]把这个问题作为遗留问题提出来而没有解决。此外，划分策略如果比常用策略有优势，那么这种优势有多大？划分策略的实质是什么？对此[Wong Morris, 1989]没有给出理论分析。 本文对以上问题做了解答，从而对划分策略的性能做出了完整的评价。我们在第2节定义了划分类的均匀性偏序关系，定义了与划分策略有关的各种多初始点选择策略，以及必要的概念和符号约定；在第3节定义了划分类的平均划分性能和最坏划分性能两个性能判据，证明了划分类越均匀，相应策略的性能就越好，不仅证明了均分策略是最优的划分策略，而且对不同的非均分策略的性能也进行了比较，彻底解决了[Wong Morris, 1989]提出的遗留问题；在第4节给出了划分策略的性能上界，给出了作为最优划分策略的均分策略的性能上下界，从而可以准确估计均分策略比常用策略性能提高的界限；在第5节分析并指出划分策略的实质仅仅是企图避免常用策略中初始点可能的重复，而这不是改进常用策略的有效途径，因此划分策略不是一个有前途的初始点选择策略；最后，我们总结了本文的工作，并对由初始点问题引出的有关试验设计方法的问题进行了讨论，指出了几个重要的研究问题。 §2. 概念和符号 本节介绍必要的概念和约定，并尽可能采用与[Wong Morris, 1989]一致的术语和符号以便于比较。 2.1 集合的划分，划分类及均匀性偏序关系 集合S的子集族P=若满足，，，，，则称P为S的一个m划分，称为P的一个划分块。 有限集合S的一个m划分P，若其中大小为ki的划分块分别有个，满足，N，，，，则称划分P的类型为T=。类型T同时也表示所有类型为T的S的划分的集合，称作S的一个划分类。 设T是S的一个m划分类，T中任一划分的划分块大小分别为，若，，，则令 ，，；，。设划分块大小分别为的划分所在的划分