第章优化.pptVIP

4) 以 x（k）为初始点，求 使 V(x ;εk+1) = V(x（k+1）; εk+1) 0 ~ min k S x ? 其中 V(x ;εk+1) = - ? ? ? ? k k S i T i i g gi(x) + ek+1 ) ( 1 x 5) 令εk+2 =εk+1 /c (例如 c=5,10), k:= k+1,转 2)。 } { k i k T i g S ? = , 0 ) ( ~ 0 x x x（k +1）∈ 内、外点法的优缺点的一个比较 表4-2 任x（0）∈R n 等式约束适用 惩罚项 x（0）∈S 0 等式约束不适用 障碍函数B(x) 在S 0的可微阶数与gi(x)相同(选用的无约束最优化方法广) 迭代中x（k）∈S (随时可取x（k）≈x*) 非凸规划适用 非凸规划适用 内点法 外点法 ? = + = m i g P 1 ) ( ) ( x x 的二阶偏导在S 的边界上不存在 迭代中x（k） S ? §4.4 可行方向与下降方向 内、外点法是将约束问题转化为无约束问题，另 一方法是将其转化为线性规划问题。 设可行集为 S。 考虑一般的非线性规划 ? ? ? í ì = = = 3 l j h m i g t s f NP j i , , 2 , 1 , 0 ) ( , , 2 , 1 , 0 ) ( . . ) ( min ) ( x x x … … 一. 几个概念 注：约束hj (x) = 0是任一可行点的主动约束。 主动约束（起作用的约束）：设 ∈S，若 gi ( ) = 0，则称 约束 gi (x) ≥ 0 为在点 的主动约束。 x x x 可行方向: 设 是(N P) 的可行点，若非零向量d 满足： 0, 当 时, +λd∈S ,则称 d 为点 处 的一个可行方向。 x d $ ) , 0 ( d l ? x x x I( ) = {i g ( x ) = 0, 1 ￡ i ￡ m} i 称为点 处的主动约束下标集。 x 主动约束下标集: 下降方向：设 x∈R，若非零向量 d 满足： 0,当 时，有 f (x+λd) f (x),则称 d 为 f (x) 在 x 处的下降方向。 d $ ) , 0 ( d l ? 下降可行方向: 既是可行方向又是下降方向的方向。 可行方向法: 找下降可行方向d，沿d 一维搜索得下降可　　　行点列 {x（n）} ( f (x（1）) f (x（2）) … ), 从而求得最 优解，这样一类方法称为可行方向法。 二. 几个定理 定理14 设 f (x) 在 x 处可微, 若 ▽f (x)Td 0, 则 d 是 f (x)在 x 处的一个下降方向。 证明 ∵ f (x +λd) = f (x) +λ▽f (x)Td + ○(λ)） f (x+λd) f (x) 0,当 ∴ 当λ充分小时,即 d $ ) , 0 ( d l ? 时，有 ≈ f (x) +λ▽f (x)Td 而 ▽f (x)Td 0, λ 0， 这表明d 是 f (x) 在 x 处的一个下降方向。 考虑线性约束的非线性规划： ? ? ? í ì Ex=e min f(x) s.t. Ax≥b (P) ，向量e = ，矩阵 E = ú ú ú ? ù ê ê ê ? é l E E 1 … … ú ú ú ? ù ê ê ê ? é l e e 1 其中， 矩阵 A = ú ú ú ? ù ê ê ê ? é m a a 1 … （a i 为A 的行向量） 向量 b = ú ú ú ? ù ê ê ê ? é m b b 1 … 定理15 设 x 是(P) 的一个可行点, I (x) 是点 x 处的主动约束下标集，则d 是点 x 处的一个可行方向的充要条件是 d ≥ 0, i∈I(x)；Ejd = 0，j =1,2,…,l。 i a 又 Ej(x+λd )= ej ，即 Ejx +λEjd= ej 。因 Ejx = ej ，所以 Ejd = 0，j =1,2,…,l。 证明 必要性：设d 是点x 处的一个可行方向，则对 i∈I(x)， (x+λd)≥bi ，即 x +λ d ≥ bi i a i a i a i a x = bi ，所以 i a i a