第四章后半.pptVIP

三、共轭方向法 1、二维优化问题 （1）任选一初始点X(0),再取坐标轴的方向为初始的搜索方向 （2）从点出发，顺次沿着e1,e2作一维搜索得点 和 ，由 和连线得一新方向 2、n维问题 缺陷：可能出现在某一轮迭代中其基本方向组为线性相关或近似线性相关的情况。 如：第k轮中，新生方向按下式产生 四、Powell法 1、基本原理 通过一个判定条件来取舍某个方向，如果基本方向组需更换，将使目标函数值下降最大的方向舍去，并将新生方向补在最后， （1）如果这两个条件同时满足，就去掉使目标函数值下降最大的方向，并将新生方向补在最后，构成新的搜索方向 （2）如果这两个条件有一个不成立，仍用原来的方向组搜索，初始点，就取中函数值较小的； 4.3 多变量的梯度法和共轭梯度法 4.3.1 梯度法(最速下降法) 一.基本思想 将n维无约束优化问题转化成一系列沿着目标还是负梯度的方向的一维搜索寻优问题 1.任意给定一个初始步长，使满足条件： 2.沿负梯度方向做一维探索，以求解一维最优化问题的最优步长α，即对目标函数求极小，以得到最优步长： 三.迭代步骤： 四.优缺点 1.优点： 迭代过程简单，要求的存储量也少，而且在远离极小点时，函数下降还是比较快的. 2.缺点： 计算的函数值愈接近理论极小值时，函数值下降得愈慢，而且常常由于一维搜索的步长误差而产生的扰动不可能