非线性无约束规划.pptVIP

最速下降法（续）特点：1)全局收敛,线性收敛;2)缺点:易产生扭摆现象而造成早停(当x(k)距最优点较远时,速度快,而接近最优点时,速度下降)原因1：f(x)=f(x(k))+▽Tf(x(k))(x-x(k))+o||x-x(k)||当x(k)接近l.opt.时▽f(x(k))→0，于是高阶项o||x-x(k)||的影响可能超过▽Tf(x(k))(x-x(k))。原因2：第29页，共45页，星期日，2025年，2月5日最速下降法的流程x(1),ε0,k=1||▽f(x(k))||ε?Yesstop.x(k)–解Nod(k)=－▽f(x(k))解minf(x(k)+λd(k))s.t.λ0得x(k+1)=x(k)+λkd(k)k=k+1例题3-9用最速下降法求解:第30页，共45页，星期日，2025年，2月5日3Newton法及其修正一、Newton法：设f(x)二阶可微，取f(x)在x(k)点附近的二阶Taylor近似函数：qk(x)=f(x(k))+▽Tf(x(k))(x-x(k))+(x-x(k))T▽2f(x(k))(x-x(k))求驻点：▽qk(x)=▽f(x(k))+▽2f(x(k))(x-x(k))=0当▽2f(x(k))正定时，令上述方程解为x(k+1),有极小点：Newton迭代公式:x(k+1)=x(k)-[▽2f(x(k))]-1▽f(x(k))停止条件:||f(x(k))||?第31页，共45页，星期日，2025年，2月5日Newton法的计算流程x(1),ε0,k=1x(k+1)=x(k)+p(k)||f(x(k))||??STOP.x(k+1)—l.optYesNok=k+1实用中，判断若▽2f(x(k))非正定时进行相应处理例题3-11用Newton法计算Pk+1=-[▽2f(x(k))]-1▽f(x(k))第32页，共45页，星期日，2025年，2月5日第1页，共45页，星期日，2025年，2月5日1）方向导数设M0位数量场u=u(M)中的一点,从点M0出发引一条射线l,在l上点M0的附近取一动点M,记如果时，下列表达式的极限存在则称之为M0处沿着l方向的方向导数.记为当时,表示函数u沿l是增加方向,当时,表示函数u沿l是减小方向。1.方向导数与梯度第2页，共45页，星期日，2025年，2月5日2）直角坐标系中方向导数的计算公式定理1.若函数u=u(x,y,z)在点M0(x0,y0,z0)处可微;为l的方向余弦,则函数u在点M0处沿l方向导数必然存在，且有下面公式计算其中是在M0附近的偏导数.例题1求函数在点M(1,0,1)处沿着方向的方向导数解:第3页，共45页，星期日，2025年，2月5日3)梯度：根据方向导数公式可以知道是其变化率最快的方向,称为梯度,记为Gradu.如果用表示l线上的单位矢量,则方向导数可以写成梯度的性质：1)方向导数等于梯度在该方向的投影.即2)数量场u=u(M)中任一点M处的梯度,垂直于过该点的等值面,且指向u(M)增大的一方.例3设为点M(x,y,z)的矢径的模,试证第4页，共45页，星期日，2025年，2月5日2.海瑟矩阵海瑟矩阵是对称形式：第5