工程优化计-理论基础.ppt

工程优化设计 黄正东 二0一二年九月 内容提要 工程优化问题建模 优化数学理论 一维搜索方法 无约束问题直接搜索方法 无约束问题间接接搜索方法 约束问题直接搜索方法 线性规划与二次规划问题求解 约束问题间接搜索方法 启发式算法 优化软件系统 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 优化数学理论 七. 一阶最优性必要条件 当i ?I-A(x*)时, gi(x*)0, 所以, 有?i=0. 当i ?A(x*)时, gi(x*)=0, 且?i ? 0. 从一式知, -?f 是?g的正向组合. g1(x)=0 ?g1(x) ?fi(x) F g2(x)=0 ?g2(x) 解释:(2)当全为不等式约束时,只有第一、三项,约束中 ?i ? 0, i∈A(x*)和?i =0, i∈I-A(x*), I={m+1,…,p} -?fi(x) 此项等价于求和条件 只考虑取作用约束！ 七. 一阶最优性必要条件 七. 一阶最优性必要条件 X*是最优解吗? 如果是,为什么 必要条件不成立? 注意线性化要求的检查! 七. 一阶最优性必要条件 证明: 由约束线性化定理知, F(x*)=L(x*) 一般最优性条件是F(x*)?D(x*)=? , 即L(x*)?D(x*)=? D(x*): [?f(x*)]Ts0 L(x*): sT ?hi(x*)=0, i=1,2,…,m sT ?gi(x*)≤0, i?A(x0), 有效不等式约束集合 改写为 As?0, -[?f(x*)]Ts0 A=(-?h1(x*) … -?hm(x*) ?h1(x*) … ?hm(x*) ?gi(x*), i?A(x0)) 由Farkas引理知, As?0, -[?f(x*)]Ts0 无解等价于: ATy=-?f(x*), y ?0, 有解. 即: ?I (正负不限) ?i ? 0 八. 一阶最优性充分条件 定理 若优化问题是凸规划问题,且f(x), hi(x), gi(x) 连续可微, 当K-T条件满足时, x*是全局最优解. 九. 二阶最优性必要条件 定理 设x*是最优解,且f(x), ci(x)二阶连续可微, 所有hi(x), i=1,2,…,m, gi(x),i?A(x*)或者是线性函数, 或者梯度?hi(x)、?gi(x)线性无关, 从而存在?使K-T条件成立,则 sT?2xxL(x*, ?*)s ?0 对一切满足sT?hi(x*)=0, i=1,2,…,m, sT?gi(x*)=0, i?A(x*)的方向s均成立. 这里L(x, ?)=f(x)-? ?ihi(x)+? ?igi(x) 解释: 对指向F内部 的方向s一般不成立. F s s F s s f(x) f(x) 对双可行方向s 十. 二阶最优性充分条件 定理 设f(x), hi(x)二阶连续可微, 所有hi(x), i=1,2,…,m, gi(x), i?A(x*)或者是线性函数, 或者梯度?hi(x*)、?gi(x*)线性无关, 若: (1) 存在?使K-T条件成立; (2) sT?2xxL(x*, ?*)s 0, 对一切满足sT?hi(x*)=0, i=1,2,…,m, sT?gi(x*)=0, i?A(x*)的方向s均成立. 则x*是严格局部最优解. 解释: （1） 通常一阶条件(K-T)保证x*是平稳点,即极点、拐点或鞍点。通过二阶条件才能保证x*是极点。 （2）排除拐点或鞍点的方法是考察两个相反方向上f(x)的凸性，所以，只有在边界切方向和F内点才能有两个相反可行方向。 （3）对于x*是F内点的情况,问题转化为无约束， ?2xxL= ?2f, 二阶条件是?2f 正定，即sT?2f(x*)s 0, 对所有s. 为什么是sT?2xxL(x*, ?*)s 0 而不是sT?2xxf(x*)s 0 ? 右图例子: f(x)=y, h(x)=x2+y2-1, ?*=-1/2