第1讲简单的算法复杂度分析7.pptVIP

第1讲 简单的算法复杂性分析 算法复杂性 算法复杂性（度）是算法运行所需要的计算机资源的量，需要时间资源的量称为时间复杂性，需要的空间资源的量称为空间复杂性。 算法分析的目的： 设计算法——设计出复杂性尽可能低的算法 选择算法——在多种算法中选择其中复杂性最低者 算法分析（Algorithm Analysis）：对算法所需要的两种计算机资源——时间和空间进行估算 时间复杂性（Time Complexity） 空间复杂性（Space Complexity） 算法效率的衡量方法 先写程序，直接观察结果 同一算法，程序不同，运行时间不同 写代码太费事，如果写出来才发现很慢… 不写程序，直接分析算法 不写程序，怎么知道运行时间？ 用“基本操作”数来衡量 表达式很复杂怎么办？ 渐进表示 算法（1）分析 sum := 0; for i :=1 to n do for j:=1 to n do sum := sum + a[i,j]; 基本操作：加法 忽略循环变量i和j的改变时间 共n2次基本操作 时间复杂度为n2 算法（2）分析 sum := 0; for i := 1 to n do begin fact := 1; for j := 1 to i do fact := fact * i; sum := sum + fact; end 第i次循环执行了i个操作 总时间复杂度为1+2+3+…+n = n(n+1)/2 如果式子再长一点，怎么办？ 比较两个算法 算法（1）执行了f(n)=n2次基本操作 算法（2）执行了g(n)=n2/2次基本操作 那个算法好呢？ 算法（2）好，因为g(n) f(n) 增长情况呢？ n扩大10倍，f(n)扩大100倍，g(n)也扩大100倍 两个算法的增长情况一样！ 渐进时间复杂度一样！ 渐进时间复杂度 f(n)=n2和g(n)=n2/2 增长情况一样 如何表示“增长情况”？ 把f(n)和g(n)变成“渐进”形式，然后直接比较 如何变成“渐进”形式？ 只保留最“大”项 忽略系数 例1：3n4+8n2+n+2 ? n4 例2：2n+1+n100+5 ? 2n (为什么n+1变成了n？) 复杂度分析不是万能的 回忆刚才的变换方法 变换前后的增长情况一致 需要先写出完整的式子 至少知道最大项 可是很多情况下无法知道最大项… 不信？ 一个数n，如果它是奇数则变换到3n+1，否则变换到n/2 给一个数n，不停的变换下去，经过几步变成1？ 你知道它的运行时间吗?! 复杂度分析不是万能的！ 渐进符号 计算算法的时间复杂度时，往往不需要算出精确的结果，对于足够大的输入规模来说，我们只需要关心运行时间的增长量级，也就是研究算法的渐进效率。 渐近意义下的记号：O、o、Ω、ω、Θ 设f(n)和g(n)是定义在正数集上的正函数。 O的定义 O(g(n))={f(n)|?n0,c 0, s.t. ?nn0, 0≤f(n)≤cg(n)} O记号表示的是一个渐进上界，有时也被非正式地用来描述渐进上确界。记为：f(n)=O(g(n))，表示f(n)的阶不高于g(n)的阶。 根据O的定义，容易证明它有如下运算规则： (1)O(f)+O(g)=O(max(f,g)) (2)O(f)+O(g)=O(f+g) (3)O(f)O(g)=O(fg) (4)如果g(n)=O(f(n))，则O(f)+O(g)=O(f) (5)O(Cf(n))=O(f(n))，其中C是一个正的常数 (6)f=O(f) o的定义 o(g(n))={f(n)| ? c0, ? n00, s.t. ? nn0, 0 ≤ f(n) cg(n)} o记号表示的是一个非渐进的上界。记为：f(n)=o(g(n))，表示当n充分大时，函数f(n) 的阶比g(n)低。 Ω的定义 Ω(g(n))={f(n)|?n0,c 0, s.t. ? nn0, 0 ≤ cg(n) ≤ f(n)} Ω记号表示的是函数的渐进下界。记为：f(n)=Ω (g(n))，表示f(n)的阶不低于g(n)的阶。 ω的定义 ω (g(n))={f(n)| ? c 0, ? n0 0, s.t. ? nn0, 0 ≤ cg(n) f(n)} ω记号表示的是一个非渐进的下界。记为：f(n)=ω (g(n))，表示当n充分大时，函数f(n) 的阶比g(n)高。 Θ的定义 Θ(g(n))={f(n)|?n0,c1,c20, s.t. ?nn0, 0≤c1g(n)≤f(n)≤c2g(n)} Θ记号表示的是函数的渐进上界和下界。记为：f(n)=Θ (g(n))，表示f(n)与g(n)同阶。 f(n)= Θ(g(n))当且仅当f(n)=O(g(n))且f(n)= Ω(g(n