第 1 章 渐增型算法 徐子珊.ppt

第1章 集腋成裘 渐增型算法 1.1 算法设计与分析 1．什么是算法 算法是解决一个计算问题的一系列计算步骤有序、合理的排列。对一个具体问题（有确定的输入数据）依次执行一个正确的算法中的各操作步骤，最终将得到该问题的解（正确的输出数据）。 2．算法分析基本概念 算法运行所需要的计算机资源的量称为算法的复杂性。 计算算法运行所需资源量的过程称为算法复杂性分析，简称为算法分析。 理论上，算法分析既要计算算法的时间复杂性，也要计算它的空间复杂性。 本书中除非特别说明，所说的算法分析，仅局限于对算法的时间复杂性分析。 随机访问计算机 RAM RAM只用一个处理机，却有无限量的随机存储器。它的有限个基本操作——算术运算、逻辑运算和数据的移动（比如对变量的赋值）均在有限固定时间内完成，假定所有这些基本操作都消耗一个时间单位。 算法在RAM上运行所需的时间，显然就是执行基本操作的次数。 算法运行时间的3种情形 对固定的输入规模，使运算时间最长的输入所消耗的运行时间称为算法的最坏情形时间。 对固定的输入规模，使运行时间最短的输入所消耗的时间，称为最好情形时间。 假定固定的输入规模为n，所有不同输入构成的集合为Dn，对问题的每一个输入为I?Dn，若已知该输入发生的概率为P(I)，对应的运行时间为T(I)，运行时间的数学期望值 称为算法的平均情形时间。 3．实例 在线性表A中查找。（a）查找值为x=1的元素，从A[1]起依次要进行5次检测，第一次找到值为1的元素。（b）查找值为x=11的元素，从A[1]起依次检测完所有元素（进行10次检测），没有找到值为11的元素——最坏情形。（c）查找值为x=3的元素，从A[1]起仅进行一次检测就找到值为3的元素——最好情形。 4．算法的渐进运行时间 当n??时，评估T（n）趋于无穷大的快慢来分析算法的时间复杂性。我们往往用几个函数?（n）：幂函数nk（k为正整数）、对数幂函数lgkn（k为正整数，底数为2）和指数函数an（a为大于1的常数）作为“标准”，研究极限： 若λ=非零常数，则称?（n）是T（n）的渐近表达式，或称T（n）渐近等于?（n），记为 T（n）=Θ（?（n）），这个记号称为算法运行时间的渐近Θ-记号，简称为Θ-记号。 5．有效算法 如果两个算法运行时间的渐近表达式相同，则将它们视为具有相同时间复杂度的算法。显然，渐近时间为对数幂的算法优于渐近时间为幂函数的算法，而渐近时间为幂函数的算法则优于渐近时间为指数函数的算法。我们把渐近时间为幂函数的算法称为是具有多项式时间的算法，渐近时间不超过多项式的算法则称其为有效的算法。 6．渐增型算法 渐增型算法有一个共同的特征：构成算法的主体是一个循环结构，它逐步将部分解扩张成一个完整解。该循环将遵循一个始终不变的原则：每次重复之初，总维持着问题的一个部分解。我们将此特征称为算法的循环不变量。 1.2 插入排序算法 1．问题的理解与描述 排序问题的形式化表示为： 输入：一组数a1, a2, ..., an。 输出：输入的一个排列（重排）a1, a2, ..., an，满足a1?a2?, ..., ?an。 2．算法的伪代码描述 INSERTION-SORT （A） 1 for j ← 2 to length[A] 2 do key ← A[j] 3 ?将A[j]插入到排好序的序列A[1… j - 1]中。 4 i ← j - 1 5 while i 0 and A[i] key 6 do A[i + 1] ← A[i] 7 i ← i - 1 8 A[i + 1] ← key INSERTION-SORT在A = 7, 4, 6, 8, 3, 5上的操作 数组的下标表示在各方格的上方，存储在数组中的数值表示在各方格内。（a）～（e）第1～8行的for循环的各次重复。每次重复中，黑色方格放的是键A[j]，它在第5行中逐一与其左边灰色方格内的元素比较。灰色的箭头指示处在第6行中被右移一格的元素，黑色箭头则指示出键在第8行移动到的位置。（f）最终排好序的数组。 3．算法的正确性 循环不变量 第1～8行的for循环的每次重复之初，子序列A[1…j - 1]由原来A[1…j - 1]中的元素组成，且已排好序。 4．算法的运行时间 假定序列A含有n个元素，对INSERTION-SORT而言，最坏情形是序列A初始状态是降序排列。在此情形下，对第1～8行的for循环的n-1次重复的每一次，内嵌的第5～7行的while循环将分别重复1，2，…，n-1次。所以，第6～7行的操作将重复进行1+2+…+n-1=n（n-1）/2次。于是，该算法的最坏情形时间用Θ-记