蚁群优化与算法讲稿 .ppt

第Ⅰ篇 组合优化问题与元启发式算法 第Ⅱ篇 ACO原理及其实现 第Ⅲ篇 ACO理论及应用 第Ⅰ篇 组合优化问题与元启发式算法 第Ⅰ篇 组合优化问题与元启发式算法 1.2 计算的复杂度 通常，对算法效率在理论上的探讨又称为算法的事前估计，可分为算法的时间复杂度分析和空间复杂度分析。 定义1.1 算法空间复杂度是指算法执行时间内所占用的存储单元的大小。 定义1.2 算法的时间复杂度是指算法执行基本操作的次数。这里我们将求解该问题的所有关键操作（如加、减、乘、除、比较等运算）指定为基本操作。 定义1.3 最差时间复杂度指的是对于每个可能的输入规模为 的问题算法求解该问题时找到一个解所需的最长时间。 一个算法的最差时间复杂度常常采用符号 来表示。给定两个函数 和 ，若存在两个正常数 与 ，对一切的 时有 则称 是以 为界的，那么函数 的最差时间复杂度就为 。换句话说，符号 给出了算法在最差时间复杂度上的渐进上限值，它表示的是一个数量级的概念。 若一个算法对应的时间复杂度为 ，而 是一个多项式函数，则称该算法为多项式时间算法；若 不是多项式则称该算法为指数级时间算法。 P、NP、NP-C、NP-hard问题描述 一种刻画组合问题难度的重要理论就是所谓的NP完全性理论，在NP完全性理论中通常使用图灵机，关于这部分的详细内容请参考Garey和Johnson（1979）的文章。 图灵（A.Turing）1912年出生于伦敦。他1936年的论文《论可计算数及其在判定问题中的应用》是阐明现代计算与计算机原理的开山之作。论文围绕着一个基础数学问题：只要有足够的计算时间数学函数是否都能经过有限次机械步骤得出解答？为了弄清楚计算机能够解决哪些问题，他提出了后来被称作“图灵机”的可计算性理论。1937年，他的论文《基于序数的逻辑系统》进一步展开了关于这个问题的逻辑探索。 定义1.4 图灵机 图灵机概念最早由英国数学家Turing提出，其本质是由两部分组成：一部分是一个无限长的磁带，磁带被分割成一个个的小方格，每个小方格装有符号‘0’或‘1’；另一部分是检测头，它能沿着磁带前后移动，一次移动一个小方格，并能读出当前小方格的符号。检测头可以不改变小方格的值，也能将新值写进小方格。在操作的每一步，我们假定检测头处于有限设置中的一个，称其为状态。 检测头可能采取的行动： 例、用图灵机来计算1加2 P、NP、NP-C、NP-hard类问题之间的逻辑关系图 1.3 组合优化问题求解方法 对于组合优化问题的求解存在两种类型的方法：确定性算法和近似算法。 确定性算法（exact algorithm）可以保证找到问题的最优解，而且事实已经证明对于任何规模有限的组合优化问题实例来说，算法都可以在一个与问题有关的运行时间内得到最优解。但是往往对于一个比较复杂的问题确定性算法需要指数级的时间来寻找最优解。这就有点不太实际。 如果在实际应用中不能有效地得到最优解，唯一可行的方法就是降低最优值的精度以换取计算效率的提高。换句话说，为了可以在多项式时间内求得比较好的解，可以以牺牲找到最优解的保证作为代价。 1.3 组合优化问题求解方法 近似算法（approximate algorithm）是寻求在相对较低的计算成本下找到好的或接近最优解的解答，但是算法并不保证一定能够找到最优解。而近似算法在非严格定义下被称作启发式算法（heuristic methods）。 基于算法使用的基本技巧，近似算法可以分为构建性算法和局部搜索算法 构建性算法（construction）是从最初的空解开始，迭代地添加解成分到解中去，直到完全构建解。例如在TSP中，解的构建性就是通过逐个添加城市而达到的。尽管在近似算法中，构建性算法是典型的快速算法，然而在大多数情况下算法生成的解要比由局部搜索算法找到的解要差。 最常用的构建性算法是贪婪构建性启发式算法其在每一构建步上添加由启发式函数评估得出的具有最大近似利益的解来构建完整解。针对TSP的一个贪婪构建性算法的例子就是最近邻算法，它把城市看做是解的成分，整个工作过程的第一步就是随机选择一个起始城市，然后再构建过程中迭代地