无约束最优化问题的一般结构.pptVIP

无约束最优化问题的一般结构第1页，共22页，星期日，2025年，2月5日4.1无约束问题的最优性条件一元函数的最优性条件无约束问题局部最优解的必要条件无约束问题局部最优解的充分条件无约束凸规划问题最优解的充要条件例子第2页，共22页，星期日，2025年，2月5日一元函数的最优性条件（１）若（２）为的局部极小点，则若则为的严格局部极小点；若（３）为的局部极小点，则：第3页，共22页，星期日，2025年，2月5日一阶导数为0，非极值点充分条件的一个例子：f(x)=x^3,f’(0)=0,f’’(0)=0第4页，共22页，星期日，2025年，2月5日无约束问题局部最优解的必要条件定理1:若为的局部极小点，且在内一阶连续可导，则注:(1)仅仅是必要条件，而非充分条件．(2)满足的点称为驻点．驻点分为：极小点，极大点，鞍点．第5页，共22页，星期日，2025年，2月5日无约束问题局部最优解的必要条件(续)定理2:若为的局部极小点，且在内二阶连续可导，则半正定．第6页，共22页，星期日，2025年，2月5日无约束问题局部最优解的充分条件定理3:若在内二阶连续可导，且正定,则为严格局部极小点．注:如果负定,则为严格局部极大点．第7页，共22页，星期日，2025年，2月5日无约束凸规划问题最优解的充要条件

定理4:设在上是凸函数且有一阶连续偏导数，则为的全局极小点的充要条件是第8页，共22页，星期日，2025年，2月5日例1：利用极值条件解下列问题：解：令即：得到驻点：第9页，共22页，星期日，2025年，2月5日函数的海赛阵：由此，在点处的海赛阵依次为：第10页，共22页，星期日，2025年，2月5日由于矩阵不定，则不是极小点．负定，则不是极小点，实际上它是极大点．正定，则是局部极小点．第11页，共22页，星期日，2025年，2月5日4.2无约束问题的最速下降算法第12页，共22页，星期日，2025年，2月5日问题提出问题：在点处，沿什么方向下降最快?分析：考查：显然当时，取极小值．因此：结论：负梯度方向使下降最快，亦即最速下降方向．第13页，共22页，星期日，2025年，2月5日最速下降法算法Step1:给出Step2:计算如果停．Step3:计算下降方向Step4:计算步长因子Step5:令转步２.第14页，共22页，星期日，2025年，2月5日第15页，共22页，星期日，2025年，2月5日4.3算法的收敛性收敛含义实用收敛准则（停机准则）收敛速度算法的二次终止性最速下降算法的收敛性第16页，共22页，星期日，2025年，2月5日