[管理学]规划模型专题二-非线性规划.pptVIP

规划模型专题二 非线性规划、动态规划与多目标规划 第一部分 非线性规划 前面有老师介绍了线性规划问题，典型的问题“下料问题”、“运输问题”等，这些问题都比较简单。但实际中的问题不仅仅是简单的线性规划问题，可能是比较繁杂的非线性规划问题。 一、例题讲解 不碰撞的标准为任意两架飞机的距离大于8km; 二、无约束极值问题 1. 下降算法 Newton 法介绍 常见一维搜索算法的收敛性 ♂说明： 2. 梯度法 ①Newton法 三、有约束极值问题 （一）罚函数法 外罚函数法 说明 外罚函数的构造形式有多种,迭代格式也有 多种,目前有不少专家在做这方面的工作; 2. 内罚函数法 3. 混合罚函数法 4. 其他方法 （二）网格法 一个算法是否收敛， 往往与 的选取有关 ① 若当 充分接近 时， 由算法产生的点列 才收敛于 则称该算法为具有局部收敛 性的算法； ② 若对 则称该算法为具有全局收敛性的算法。 由算法产生 的点列 均收敛 于 Newton法是平方收敛的，具有局部收敛性；抛物线法是超线性收敛的，具有全局收敛性；平分法、黄金分割法、分数法是线性收敛的，具有全局收敛性。 当 具有多个极小值点时， 则算法求得 的往往是 的一个局部极小值点。 此时可 改变 的取值，重新迭代求解。 若求得多个极小值点，则从中选择一个 较满意的结果。 在多数情况下，一维搜索的一个基本工具， 而此时一维搜索的精度并不要求很高，故一维 搜索实现的方便性更重要些。 1847年Cauchy提出了第一个无约束极值问题的算法——梯度法或最速下降法： 其中 给定初始点 和控制误差 求 当 时， 即得 的最优解 的近似解 停止计算。 该算法具有全局收敛性，是线性收敛的，但有时是很慢的线性收敛，这似乎与“最速下降”矛盾。其实不然，最速下降方向函数在某点处的局部性质，对局部来说是最速下降方向，对全局来说却不一定是最速下降方向，故梯度法不是有效的实用算法。 通过对它改进或利用它与其他收敛快的算法相结合可得Newton法、Fletcher-Reeves共轭梯度法、变尺度法和Powell法等有效算法。 下面仅介绍前两者，对后两者的了解可参阅有关书籍。 当 时， 则 。 其中 称为 在 处的Hesse矩阵。 该算法是平方收敛的，具有局部收敛性。 对Newton法进行改进，可得具有超线性收敛的且具有全局收敛性的阻尼Newton法或修正Newton法： 当 时， 有 。 ② Fletcher-Reeves共轭梯度法 当 时， 有 。 该算法的收敛速度介于梯度法和Newton法 其中 之间，既克服了前者的慢收敛性，又避免了 后者计算量大和仅具有局部收敛性的缺陷。 求解无约束极值问题的算法非常多，不同算法的效果和实际效率也可能与所求解的问题有关，软件包中往往提供了多种算法。 后面将有教练专讲如何使用软件包求解非线性规划问题。 求解一般的 NLP 比求解的无约束极值问题和 LP 都要复杂，虽然目前已发展了许多 NLP 的算法，但不象 LP 那样有通用的单纯形法，而是各种算法都有特定的使用范围。即便如此， NLP 的实际应用还是相当广泛的。 首先回顾 “NLP的一般形式” 其中， 中至少有一个是 非线性函数。 由于无约束极值问题的求解目前已有许多有效的算法，因此很自然想到把它们推广到有约束的 NLP ，但存在不少困难，特别是对于非线性约束，困难更大。 一种可行的方法是根据约束问题的求解，构造某种“惩罚”函数，把它加到目标函数中去，将约束问题的求解转化为一系列无约束问题的求解。在无约束问题处， “惩罚”项必须趋于0，而约束条件要近似地满足。 令 通常取 称之为罚函数， 则约束问题转化为无约束问题 其中 M 0 为罚因子. 显然, 符合上述 惩罚策略, 即 当 为可行解时, 不受“惩罚”; 当 为非可行解时, M 越大, “惩罚”越重. 因此, 当 M 充分大时, 要使 极小, 则 应充分小, 从而 的极小值点充分逼近可行域, 的最优解 逼近 的最优解. 给定 (可为非可行解点), 可以取小一些 初始惩罚因子 (如取 ), 迭代过程 中 M 不断增加, 放大系数 c 1(可取 c =10). 令k=0, 以 为初始点求 得 最优解 若 则