非线性约束优化.pptVIP

第1页，共20页，星期日，2025年，2月5日高等数学中所学的条件极值：一、等式约束性问题的最优性条件：考虑minf(x)s.t.h(x)=0问题:在ф(x,y)=0的条件下,求z=f(x,y)极值.minf(x,y)。s.t.ф(x,y)=0引入Lagrange乘子：λLagrange函数L(x,y;λ)=f(x,y)+λф(x,y)第2页，共20页，星期日，2025年，2月5日一、等式约束性问题的最优性条件：(续)若(x*,y*)是条件极值，则存在λ*，使fx(x*,y*)+λ*фx(x*,y*)=0fy(x*,y*)+λ*фy(x*,y*)=0Ф(x*,y*)=0推广到多元情况，可得到对于(fh)的情况：minf(x)s.t.hj(x)=0j=1,2,…,l若x*是(fh)的l.opt.,则存在?*∈Rl使以及hj(x)=0，j=1,2,…,l第3页，共20页，星期日，2025年，2月5日一、等式约束性问题的最优性条件：(续)几何意义是明显的：考虑一个约束的情况：最优性条件即：-▽f(ㄡ)ㄡ▽h(ㄡ)h(x)－▽f(x*)▽h(x*)这里x*---l.opt.▽f(x*)与▽h(x*)共线，而ㄡ非l.opt.▽f(ㄡ)与▽h(ㄡ)不共线。第4页，共20页，星期日，2025年，2月5日一等式约束下的拉格朗日乘子算法考虑等式约束问题:令拉格朗日函数:则等式约束下规划问题转化成无约束问题:minL(X,?)该问题有极值点的必要条件为:第5页，共20页，星期日，2025年，2月5日充分条件:如果且行列式方程:所有根Zj0(j=1,2,…,n-l)，则X*为局部极小点；反之所有Zj0，为局部极大点；有正有负非极值点第6页，共20页，星期日，2025年，2月5日例题4-1用拉格朗日乘子算法求解:解:令极大点的必要条件:对于得到的三个根。使用充分条件检验如下：第7页，共20页，星期日，2025年，2月5日计算:展开z的(n-l)=(2-1)=1次多项式方程，得第8页，共20页，星期日，2025年，2月5日一个信息处理技术中重要的例子－求最优隶属度函数１）背景介绍－聚类分析２）目标函数－符号说明构造拉日函数：最优化的一阶必要条件为代回上式进入到约束条件：得所以第9页，共20页，星期日，2025年，2月5日FCM的中心迭代过程第10页，共20页，星期日，2025年，2月5日2)不等式约束问题的Khun-Tucker条件：考虑问题minf(x)s.t.gi(x)0i=1,2,…,m设x*∈S={x|gi(x)0i=1,2,…,m},并令I={i|gi(x*)=0，i=1,2,…,m}称I为x*点处的起作用集（紧约束集）。如果x*是l.opt.,对每一个约束函数来说，只有当它是起作用约束时，才产生影响，如：g2(x)=0x*g1(x)=0g1(x*)=0,g1为起作用约束，约束集已知时回归到含等式优化问题问题:事先并不知道约束集＝？第11页，共20页，星期日，2025年