最优化课件无约束的直接方法.pptxVIP

最优化理论与算法§11，无约束最优化的直接方法TP SHUAICh11 无约束最优化的直接方法1 模式搜索法2 Rosenbrock算法3 Powell方法TP SHUAI1.模式搜索法1 基本思想Hooke Jeeves(1961)从几何意义上看,寻找具有较小函数值的“山谷”力图使迭代产生的序列沿“山谷”走向逼近极小点,算法从初始基点开始,包括两种类型的移动----探测移动和模式移动.探测移动依次沿n个坐标轴进行,用以确定新的基点和有利于函数值下降的方向.模式移动沿相邻两个基点连线方向进行.TP SHUAI1.模式搜索法TP SHUAI1.模式搜索法设目标函数为f(x), x?En.坐标方向给定初始步长?,加速因子?.任取初始点x(1)作为第1个基点.x(j) : 第j个基点.y(j) : 沿ej探测的出发点y(n+1) : 沿en探测得到的点TP SHUAI1.模式搜索法首先,从y(1) = x(1)出发,进行探测移动.先沿e1探测并从y(2)出发,沿e2进行探测.否则,沿e1方向的探测失败,再沿- e1方向探测并从y(2)出发,沿e2进行探测.TP SHUAI1.模式搜索法再从y(2)出发,沿e2进行探测.方法同上,得到的点记为y(3) .按此方式作下去直至沿n个方向探测完毕,得到点y(n+1).此时,可望d = x(2) - x(1)是有利于函数值减小的方向.TP