第7项章 约束问题的优化方法.docVIP

第7章 约束问题的优化方法 §7.1 可行方向法 7.1.1 可行方向法的基本思想 可行方向法是一类算法,可看作无约束下降算法的自然推广。典型策略是从可行点出发，沿着下降可行方向进行搜索，求出使目标函数值下降的新的可行点． 考虑只含线性约束的非线性规划问题： （1） 为非线性函数，，，，. 注1：线性约束规格保证了优化问题（1）的可行方向集、线性化可行方向集以及序列化可行方向集是等同的。 当某个可行方向同时也是目标函数的下降方向时，沿此方向移动一定会在满足可行性的情况下改进迭代点的目标函数值。 目前已经提出许多可行方向法，用来处理具有线性约束的非线性规划问题。 搜索方向选择方式不同形成不同的可行方向法： （1）Zoutendijk可行方向法 （2）Rosen梯度投影法 （3）Wolfe既约梯度法 可行方向的判定： 定理1：设是问题（1）的可行解，在点处有，，其中 ， 则非零向量为处的可行方向的充要条件是 ， 证明： 必要性：设非零向量是处的可行方向．根据可行方向的定义，，使得对每个．有为可行点，即，. 由于，由上式得到． 又由得到. 充分性：设，. 由于，则，使得对于所有的,成立. 根据假设及，得到. 上述两式组合起来就是. 又由及可知 表明是可行点，因此是处的可行方向． 7.1.2 Zoutendijk可行方