第11篇 约束问题的线性化方法.ppt

例：可行方向算法 … 可行方向算法修正 ε微扰法 Topkis–Veinott方法 11.3.2单纯形方法推广 单纯形方法回顾 约束标准型： 基本解： 相对收益： 基本变量的 选取与替换： 新的可行基本解： 最优化准则： 所有非基本变量的相对收益大于或等于0 单纯形方法推广到线性约束问题：凸单纯形方法 相对收益： 最优化准则： 最优解可能不在顶点，非基本变量可能不为0 约束标准型： 基本解： 相对收益： 最优化准则： 线性搜索 凸单纯形算法 凸单纯形算法 11.3.3既约(Reduced)梯度方法 类似于无约束优化的梯度算法（Cauchy算法）。搜索方向d 为梯度的负方向 约化梯度为 ，即凸单纯形算法中非基本量的相对收益。可以证明，它实际上是在约束条件(m个)下的以非基本变量为独立变量(n-m)的梯度： 称为约化梯度，是在非基本变量子空间中的梯度。 11.3.3既约(Reduced)梯度方法 基本量的变化： 非基本量子空间 中的搜索方向： 保证x在定义域内： 确定搜索方向 11.3.3既约(Reduced)梯度方法 11.3.3既约(Reduced)梯度方法 约化梯度方法的加速 共轭梯度 准牛顿方法 11.3.4广义既约梯度(GRG)方法 推广约化梯度方法到一般的非线性优化问题 GRG基本思想：等式约束可以通过消元的办法化为无约束问题 将等式约束线化 消元 化为无约束形式 应用无约束的基于梯度算法 11.3.4广义既约梯度(GRG)方法 首先考虑等式约束问题，目标函数和约束都是非线性的： 基本GRG算法 1、约束的线化 2、选择独立变量，即分解为基本量与非基本变量 基本量，即非独立变量的系数矩阵： 非基本量，即独立变量的系数矩阵： 基本GRG算法 3、以非基本变量为独立变量，在线化的约束中解出基本量，实现消元 4、计算目标函数的梯度（独立变量为非基本变量为），即线性规划中的相对收益 5、梯度为0即是最优化的必要条件，可作为收敛准则 ≤ 基本GRG算法 6、确定搜索方向 7、在搜索方向上线性搜索 返回4 基本GRG算法修正 问题：搜索方向d具有下降的性质，这是由于 是下降的，而 一般不具有这个性质，因此会导致在d方向上搜索会违反约束 解决办法：将 往约束曲面上投影，在投影上进行线性搜索： 具体方法： （1）给定α，解出 （2）调变α，使f(x)最速下降 完整GRG算法 完整GRG算法 11.3.5 最一般情形的GRG算法 包含不等式约束，定义域有上下界 定义域边界处理：两种方法 将其作为不等式约束 在基本GRG算法过程中对边界特殊处理 不等式约束的处理：两种方法 加入松弛变量，化为等式约束 在基本GRG算法过程中对边界特殊处理 Since ?2 and g12 are linear functions, they need not be replaced by piecewise linear functions. However, the other two, ?1 and g11, will need to be approximated. Suppose we choose to construct our approximation over the interval 0  x1  3, and suppose we use four equidistant grid points for this purpose. The data required for the piecewise approximation are tabulated below: * Variable x3 is a slack variable inserted to convert the constraint to an equality. * In fact, the simple definition of the active constraint set used in the basic form of the feasible direction algorithm can not only slow down the progress of the iterations but also lead to convergence to points that are not Kuhn–Tucker points (ref. 2, Chap. 13). This type of false convergence is known as jamming and, loosely speaking, occurs because the steps that the method