拉格朗日松弛重点讲义.pptxVIP

1 拉格朗日松弛算法 --- The Lagrangian Relaxation Method Outline 2 1. 基本原理及用途 2. 如何应用 3. 简单例子 4. 在实际问题中的应用 5. 难点探讨 引入拉格朗日松弛算法 3 拉格朗日松弛是求解下界的一种方法 拉格朗日松弛应用于求解 约束规划问题 目标函数值增大 最优值 上界 下界 gap 为什么拉格朗日松弛可以求得下界？ 基本原理 4 将造成问题难的约束吸收到目标函数中， 并使得目标函数仍保持线性， 使得问题容易求解。 拉格朗日松弛后变换为： IP的最优解是LR的一个可行解，所以， 原问题： 拉格朗日乘子（非负） 基本原理 5 g(x): 原问题 Def g(x):原问题的可行域 f(x): 松弛后的问题 Def f(x): 松弛问题的可行域 用途 6 为什么拉格朗日松弛 popular ? 第一，对于线性整数规划问题，将难约束吸收到目标函数后，问题变得容易求解。 第二，实际的计算结果证实拉格朗日松弛方法所给的下界相当不错，且计算时间可以接受。同时，可以进一步利用拉格朗日松弛的基本原理构造基于拉格朗日松弛的启发式算法。 不一定是可行解，但是可以求得下界 获得可行解（上界）/最优解（最优值） 为什么拉格朗日松弛 popular ？ Outline 7 1. 基本原理及用途 2. 如何应用 3. 简单例子 4. 在实际问题中的应用 5. 难点探讨 如何应用 8 如何选取松弛的条件？ 原则：该条件去掉后使得问题容易求解。 如何选择最优的拉格朗日乘子？ 原问题的拉格朗日松弛为： 原问题的拉格朗日对偶为： 最好的下界 如何应用—凹函数 9 凹函数（向上凸的） 梯度法 光滑的（可微） 次梯度法 非光滑（不可微） 如何应用—梯度法 10 梯度法：在某一点，沿梯度方向搜索，能找到函数的极值点。 A B C 步骤：任给一个初始出发点，设为X0， X0 X1 （2）计算该点当前梯度（导数） y’； （3）修改当前参数 X1=X0+d* y’ （4）计算该点当前梯度（导数） y’； ……重复 （1）设定一个步长d； 一元函数 如何应用—次梯度法 11 次梯度法：在某一点，沿次梯度方向搜索，能找到函数的极值点。 次梯度不唯一 步长： 如何应用—步长 12 为原问题的一个上界，可以由一个可行解的目标值确定，也可以通过估计的方法得到。可随t 的变化逐步修正。 如何应用—停止原则 13 （1）迭代次数不超过 T。这是一种最为简单的原则，但解的质量无法保证。 停止原则： Outline 14 1. 基本原理及用途 2. 如何应用 3. 简单例子 4. 在实际问题中的应用 5. 难点探讨 简单例子 15 简单例子 16 简单例子 17 Starting with ZUP=6,β=2 and i=0 for i=1,2,3, 迭代三次。 求出每次迭代的下界和拉格朗日乘子。 原约束： 简单例子 18 简单例子 19 Outline 20 1. 基本原理及用途 2. 如何应用 3. 简单例子 4. 在实际问题中的应用 5. 难点探讨 实际问题中的应用—原问题 21 复杂约束： 船舶必须在到港之后靠泊 实际问题中的应用—松弛后的问题 22 实际问题中的应用—松弛后的问题 23 三维指派问题 二维指派问题 匈牙利法 24 实际问题中的应用 获得可行解的启发式算法 停止准则1 停止准则2 实际问题中的应用 25 将次梯度法扩展为拉格朗日松弛启发式算法。 每更改一次拉格朗日乘子，求出一个下界，构造启发式算法修改不可行解，得到一个上界。 目标函数值增大 最优值 上界 下界 gap Outline 26 1. 基本原理及用途 2. 如何应用 3. 简单例子 4. 在实际问题中的应用 5. 难点探讨 难点探讨 27 （1）松弛条件的选取。将复杂的约束条件松弛，复杂指的是该约束导致模型在多项式时间内不能求解。 一个问题的计算时间 m(n) 不大于问题大小 n 的多项式倍数。 （2）拉格朗日松弛启发式算法的设计。 松弛后获得的解不可行，需要修改，不同问题的修改方法不同。 28 Thanks 冯媛君 2011.11.14 29 30 31