算法复杂性.ppt

算法复杂性 算法性能： （1）在最坏情况下算法所表现出来的性能；----------------------最坏性能 （2）在各种情况可能出现时，算法所表现出来的期望性能。---------平均性能 1. 问题与实例 问题(problem):需要回答的一种提问，通常包含一些参数和取值未定的自由变量，可以从两个方面加以描述： （1）对所有参数的一般描述； （2）对回答（也称为解）所需要满足的特性的描述。 实例(instance)：当对一个问题中的参数赋予特定的数值时，如何寻找相应的回答（解），这种提问称为该问题的一个实例。 问题是对许多具体事例构成集合的一种抽象表述，而实例就是相应问题的一种具体表现形式。 算法 算法：是一组含义明确的简单指令。 一个问题是算法可解的(solvable)：存在一个求解该问题的算法，只要让算法运行足够长的时间，并且保证满足算法在运行过程中所需要的存储空间，它就能求解该问题的任何一个实例。 停机问题：不可能构造出一个程序来确定任意给出的程序是否会陷入无限循环。 算法复杂性 算法复杂性(algorithm complexity):描述算法的存储要求和运行时间要求，分为算法的空间复杂性和算法的时间复杂性。 ----利用算法需要的初等运算次数来表示算法的时间复杂性。 多项式时间算法与指数时间算法 多项式时间算法(polynomial-time algorithm)或优良算法(good algorithm) :对于某算法的复杂性函数，其增长速度是输入规模的多项式函数。 指数时间算法(exponential-time algorithm):对于某算法的复杂性函数，其增长速度是输入规模的指数函数。 多项式时间算法的优点： （1）随着问题输入规模的增加，算法的计算量（即算法复杂性）呈多项式增长； （2）一个多项式时间算法利用另一个多项式时间算法作为其“子程序”，构造一个新的复合型算法，则新算法仍是多项式时间算法。 Karmarkar投影尺度算法 两个基本事实： （1）如果一个内点居于多面体的中心，那么目标函数的负梯度方向是比较好的可行方向； （2）在不改变问题基本特性的条件下，存在一个适当的变换，能够将可行域中给定的内点置于变换后的可行域的中心。 与(P’2) 相比较, (P’) 多了一些等式约束条件ADky = b。为了保持这些等式的继续成立, 原来在(P’2) 中的移动方向?Dkc便需要投影在(ADk)这个矩阵的零空间(null space) 之中，即经过投影后的方向应是Pk(?Dkc)，其中Pk是一个投影矩阵，定义为： 所以(P’) 的近似最优解是 (P) 的近似最优解是 Primal Affine Scaling內点法的重要步骤: Dual affine scaling 内点法 迭代公式 基本思想： （1）选定一个内点解作为迭代过程的初始点，利用可行域的投影尺度变换，将当前的内点解置于变换后的可行域的中心； （2）在变换后的可行域中沿着目标函数最速下降方向的正交投影移动，获得新的可行内点，并通过投影尺度逆变换将新的可行内点映射到原来的可行域，作为新的迭代点。 （3）重复这一过程，直至求出满足一定精度的近优解。 X空间 Y空间 投影尺度变换 Karmarkar标准形 基本假设： 单纯形 向量的投影 单纯形S的投影尺度变换 变换T的性质 势函数 性质： １．射影变换T把势函数变换成具有相同形式的函数． ２．目标函数值所期望的下降量可通过势函数值的充 分小来达到．　　　　　　　　　　　　　 ３．优化函数f(x)可用优化线性函数来近似． 求解方法 Karmarkar投影尺度算法 有关定理 * * 例：线性规划问题与实例 一个线性规划问题的实例是指矩阵和向量组(A, b, c)的某一特定取值，这些参数按照如下的结构关联在一起，描述了问题（解）所需要满足的特性。 线性规划问题是对具有上述结构的所有实例 的一种抽象描述。 多项式时间算法与指数时间算法 输入规模(input size)：表示一个实例所需要的字符串长度。 一般的，使用 位二进制就可以表示任意整数r。 线性规划的输入规模为： 多项式时间算法与指数时间算法 把算法求解输入规模不超过k的实例时最多的运算次数称为该算法关于输入规模k的复杂性。 定义: 单纯性算法的复杂性 单纯性算法需要2n-1次迭代。 定理：当θ2时，用单纯行算法求解上述问题时需要 2n-1次迭代。 椭球法 第一个可以在多項式时间內解决一般线性规划问题的解