最优化理论与方法 第一章.pptVIP

1.2 算法 输 入：有零个或多个外部量作为算法的输入。 输 出：算法产生至少一个量作为输出。 确定性：组成算法的每条指令清晰、无歧义。 有限性：算法中每条指令的执行次数有限。 可行性：执行每条指令的时间也有限。 1.4 启发式算法 1.4 启发式算法 1.4 启发式算法 1.4 启发式算法 1.4 启发式算法 1.4 启发式算法 简单的邻域搜索算法 给定组合优化问题，假设其邻域结构已确定，算法为 1）任选一个初始解s0?F; 2) 在N(s0)中按某一规则选一s；若f(s)f(s0),则s0?s；否则，N(s0) ? N(s0)-s; 3) 若N(s0)=?,停止；否则，返回2). 算法停止时得到点的性质依赖算法初始解的选取、邻域的结构. 只要选好初始点，就一定可以求到最优解。对NP-hard的组合最优化问题，确定这样的初始点非常困难。如何选初始点和如何跳出局部最优值点以达到全局最优点是许多算法的关键。 * 1.4 启发式算法 （1）一步算法 （2）改进算法（迭代算法） （3） 数学规划算法 （4） 解空间松弛法 （5）现代优化算法 * 1.4 启发式算法 一步算法 该算法的特点是: 不在两个可行解之间选择, 在未终止的迭代中, 有可能不是一个可行解, 算法结束时得到一个可行解. 典型实例是背包问题的贪婪算法 * 1.4 启发式算法 一步算法 该算法的特点是: 不在两个可行解之间选择, 在未终止的迭代中, 有可能不是一个可行解, 算法结束时得到一个可行解. 典型实例是背包问题的贪婪算法 * 1.4 启发式算法 改进算法 改进算法的迭代过程是从一个可行解到另一个可行解, 通常通过两个解的比较而选择好的解, 进而作为新的起点进行新的迭代, 直到满足一定的要求为止. 因此, 也可以称之为迭代算法。 * 1.4 启发式算法 改进算法 T SP 中的2-opt 方法 * 1.4 启发式算法 (3) 数学规划算法 运筹学内容 (4) 解空间松弛法 后续展开 * 1.4 启发式算法 （5）现代优化算法： 80年代初兴起 禁忌搜索（tabu search） 模拟退火（simulated annealing） 遗传算法（genetic algorithms） 神经网络（neural networks） 蚂蚁算法（Ant Algorithm，群体（群集）智能，Swarm Intelligence） （6）其他算法： 多种启发式算法的集成. * 1.4 启发式算法 计算复杂度分析： 如背包问题贪婪算法 n次除法 n个数排序 2n次比较 例. 求正整数m、n的最大公因数。 解一. （1）求余数：用m除以n，得余数r(0≤r﹤n)。 （2） 判断余数：若余数r=0，输出n，结束。 否则，转（3）。 （3）更新被除数和除数：m←n，n←r，转(1)。 解二. 开 始 输入m、n r=m%n r=0? m←n，n←r 输出n 是 否 解三. Euclid(int m, int n) { int r; while(n!=0) { r=m%n; m=n; n=r; } printf(“%d”, m) } * 1.3 计算复杂性的概念 评价算法的好坏——计算时间的多少、解的偏离程度 例 非对称距离TSP问题的算法实现：所有路径枚举。 计算时间：n个城市，固定1个为起终点需要(n-1)!个枚举，设计算机1秒能完成24个城市的枚举，则城市数与计算时间的关系如下表： * 1.3 计算复杂性的概念 城市数 24 25 26 27 28 29 30 31 计算时间 1 sec 24 sec 10 min 4.3 hour 4.9 day 136.5 day 10.8 year 325 year 随城市增多，计算时间增加很快。到31个城市时，要计算325年。 * 1.3 计算复杂性的概念 描述算法的好坏——计算复杂性—— 讨论计算时间与问题规模之间的关系 以目前二进制计算机中的存储和计算为基础，以理论的形式系统描述，是评估算法性能的基础。 * 1.3 计算复杂性的概念 问题（problem）：要回答的一般性提问，通常含有若干个满足一定条件的参数（或自由变量）。可以从两方面描述： （1）对所有参数的一般性描述； （2）答案（或解）必须满足的性质。 实例（instance）:给问题的所有参数指定具体值，得到问题的一个实例。这些具体值称为数据；这些数据输入计算机所占的空间