拉格朗日松弛算法.ppt

由此得到当松弛后问题的一个最优解为原问题（5.3.1）的一个可行解时，并不能得到该解为原问题的最优解。在什么条件下该解为IP的一个最优解？ 定理5.3.1 的充要条件为： 三、拉格朗日松弛的整数性 定义5.3.1 若LR的最优解与其整数约束无关，则称该问题具有整数性，即： 例5.3.2（续5.1.1）例5.1.1的集合覆盖问题SC的拉格朗日松弛为 上页公式的线性规划模型为 LRSC和LSC具有整数性。 定理5.3.2 若LR具有整数性，则 整数规划问题和它的拉格朗日松弛分别为5.3.3和5.3.4 5.3.3 5.3.4 按定理5.3.2有 5.3.1 5.3.1 5.2.2 5.3.1 定理5.3.2的结论 5.3.1 在例5.3.3的条件下 例5.3.4（续例5.3.3）继续例5.3.3的讨论，将式（5.3.3）中的约束 5.3.5 5.3.6 四、 拉格朗日分解 例7.3.5 5.4 拉格朗日松弛算法 5.4.1 次梯度算法（subgradient optimization） 定义：（凹函数） 函数 满足以下条件称为凹函数 定理5.4.1 若LR的可行解集合Q为有限个实数点集，则以下函数为凹函数 定理5.4.1 函数为凹函数的充要条件为： 证明 必要性：设 为凹函数，则 H为凸集, 为边界点,所以存在过 和法方向 的支撑超平面 满足: 充分性: A B C 定义5.4.2 若 为凹函数,在 向量满足: 则称 为 在 的一个次梯度,所有的次梯度集合记为: 定理5.4.3 若 为凹函数, 为 的充要条件为 定理5.4.4 设LR的可行解集合Q由有限个整数点组成,其极点为 有: 证明: 注: 若 不是最大值点,则相交的两个同目标值的平面 满足 且,两平面的法方向交角不超过90度. 当 不是光滑点是,在 的邻域内,当 充分小时,存在 ,使得: 由 内所有次梯度夹角不超过90度,有 由上面的讨论可得次梯度优化算法如下: STEP1: 任选初始拉格朗日乘子 STEP2: 对 ,从 中任选一个次梯度 ,若 则停,否则 重复STEP2. 注: 1、 的选取: 2、停止准则： 5.4.2 拉格朗日启发式算法 Step1: 拉格朗日次梯度法求IP下界 Step2: 对所求解可行化 例5.4.1 假设集合覆盖问题SC通过前面的松弛得到一个解 ,当其不可行时即存在i使得 一个可行化方法是求k,满足 重复以上步骤,直到所有行都被覆盖. 集合覆盖问题的拉格朗日松弛算法: Step1: 初始化 Step2: 计算 Step3: 若所有行被覆盖,stop; or 记 表示第i行没有被覆盖,在没有被覆盖的行中任选一行k,计算 Step4 : 例5.4.2 对集合覆盖问题 假设: 最优解为: 第三行没有被覆盖,在可覆盖第三行中选费用最小的列 拉格朗日松弛算法 基于规划论的松弛方法 拉格朗日松弛理论 拉格朗日松弛的进一步讨论 拉格朗日松弛算法 主要内容: 目标值 最优值 基于数学规划: 分支定界法、割平面法、线性规划松弛再对目标函数可行化等的目标值。 现代优化算法：禁忌搜索法、模拟退火法、遗传算法、蚁群算法等的目标值。 其它算法：分解法、组合算法等的目标值。 下界算法：线性规划松弛、拉格朗日松弛等的目标值。 例子1: 线性规划松弛: 在5.1.1中,将整数约束松弛为实数, 称其为5.1.1的线性规划松弛: 定理5.1.1: 此类算法适合于整数规划问题中,决策变量为较大整数的情形. 此类算法分两阶段: 第一阶段为求松弛后线性规划问题的最优解; 第二阶段为将解整数化,并考虑可行性. 注: 例2: 对偶规划松弛方法: 5.1.2的对偶形式为: 其中Y为决策变量. 注: 由对偶理论知,5.1.2和5.1.3有相同的最优值,至于