优化设计中最常见的最优化方法.PPT

（2）沿 诸方向作n次一维搜索，依次确定各最优步长 ，使 得到点列 （3）收敛准则判断： 若 或对于所有i=1,2,…,n满足 则迭代结束。否则转下一步。 第三章 优化设计中最常见的最优化方法 3. 1无约束优化方法 一. 无约束优化问题的数学模型： 对于一个n维目标函数，如果在没有任何限制条件下寻求它的极小点,称无约束极小化问题或无约束优化问题。数学上表达为 rninf(x) x 二 . 研究无约束优化方法的意义： 有些约束优化方法，能将有约束问题转化成无约束问题，可采用无约束优化方法求解。 三. 分类： 除要计算目标函数值外，还要计算目标函数的梯度，有的还要计算其海赛矩阵。 这类方法较适用于解决变量个数较少的（n ≤20）问题，一般情况下比间接法效率低。 只要计算目标函数值。 3. 3.1坐标轮换法 坐标轮换法的基本构思: 是将一个n维优化问题转化为依次沿n个坐标方向反复进行一维搜索问题。 方法的实质: 是把n维问题的求优过程转化为对每个变量逐次进行一维求优的循环过程。每次一维搜索时，只允许n个变量中的一个改动，其余(n-1)个变量固定不变。故坐标轮换法也常称单变量法或变量交错法。 先以二元函数为例。图为目标函数 的等值线。若从点 出发，先固定 不变，改变 使其目标函数下降到最小值，即求 ，得 然后固定 不变，再改变 又使其目标函数值减到最小值,即求 得点 ，至此完成了—轮计算。然后再开始第二轮．重复前面过程求得 点。如此继续下去，直至找到 点 为止。 一、基本思想 设初始点 ，首先沿第一坐标轴方向e1进行一维搜索，求得沿该方向的最优步长和函数值下降的点 。再以 为新的起点沿第二坐标轴e2进行一维搜索，求得下降点 。以后，每次都以前一次搜索的终点作为本次一维搜索的起点，依次沿坐标方向e3，e4，…，en进行一维搜索，最后得迭代点 ，完成一次循环。这里，x的上标表示迭代点的轮号。每作完n次变量的一维搜索，称一轮；下标表示迭代点的序号。 以 作为第二轮迭代的起始点 ，再依次沿e1，e2，…，en进行第二轮一维搜索，得 。 可得到迭代点序列： 即： 二、搜索方向与步长的确定 对于第k轮第i次迭代计算 其中： --第k轮沿第i个坐标轴方向迭代的新点。 --第k轮沿第i个坐标轴方向迭代的初始点。 --第k轮沿第i个坐标轴方向迭代的方向。 --第k轮沿第i个坐标轴方向迭代的步长。 搜索方向： 一系列坐标轴的方向 其中第i个单位坐标方向为1，其余为0。 步长： （1）加速步长 先规定初始步长 ，以探测目标函数的下降方向。然后取初始步长的若干倍作为搜索步长，即 。从 点出发，以 计算 坐标上的新点 ，若 ，则取 继续前进，直到当 点的目标函数增大了，取前一点为本次的新点，然后改换坐标轴进行搜索，依此循环继续前进，直至当整个过程再也无法继续进行下去为止，当还达不到计算精度时，还可将 缩小 ，再从停留点出发重复前面的过程，直至达到收敛精度为止。 （2）最优步长 沿给定方向进行搜索，使目标函数达到极小点时所采用的步长即为最优步长。 利用一维最优搜索方法完成每一次迭代