4第四章节无约束优化方法.ppt

判断是否满足收敛准则。若满足则取 为极小点，否则应置 ，返回继续进行下一轮迭代。 这样重复迭代的结果，后面加进去的向量都彼此对G共轭，经n轮迭代即可得到一个由n个共轭方向所组成的方向组。对于二次函次，最多n次就可找到极小点，而对一般函数，往往要超过n次才能找到极小点（这里“n”表示设计空间的维数）。 鲍威尔法的程序框图（改进算法）P85 例4-5 用改进的鲍威尔法求目标函数 解：（1）第1轮迭代计算 ， 沿e1方向进行一维搜索 得 。 的最优解。已知初始点[1,1]T，迭代精度 以 为起点，沿第二坐标轴方向 e2 进行一维搜索 得 确定此轮中的最大下降量及其相应方向 反射点及其函数值 ， 检验Powell条件 由于满足Powell条件，则淘汰函数值下降量最大的方向e1，下一轮的基本方向组为e2， 。 构成新的方向 沿 方向一维搜索得极小点和极小值 ， 此点为下轮迭代初始点。 按点距准则检验终止条件 需进行第二轮迭代计算。 （2）第2轮迭代计算 此轮基本方向组为e2， ，分别相当于 ， ，起始点为 ＝ 。 沿e2方向进行一维搜索得 以 为起点沿 方向一维搜索得 确定此轮中函数值最大下降量及其相应方向 反射点及其函数值 检验Powell条件，淘汰函数值下降量最大的方向e2，下一轮的基本方向组应为 ， 。 构成新的方向 沿 方向进行一维搜索得 检验终止条件 （3）第3轮迭代计算 此轮基本方向组为 ， ，起始点为 ＝ ，先后沿 ， 方向，进行一维搜索，得 ， 故最优解 检验终止条件 方法讨论 鲍威尔方法是的鲍威尔在1964年提出的，以后又经过他本人的改进。该法是一种有效的共轭方向法； 它可以在有限步内找到二次函数的极小点。具有二次收敛性。对于具有连续二阶导数的非二次函数，用这种方法也是有效的。 是一种直接算法，计算简单，收敛速度较快，可靠性好。 4.9 单形替换法 函数的导数是函数性态的反映，它对选择搜索的方向提供了有用的信息。 如最速下降法、共轭梯度法、变尺度法和牛顿法等，都是利用函数一阶或二阶导数信息来建立搜索方向。 也可以在不计算导数的情况下，先算出若干点处的函数值，从它们之间的大小关系中也可以看出函数变化的大概趋势，为寻求函数的下降方向提供依据。 单形替换法 也是一种不使用导数的求解无约束极小化问题的直接搜索方法，与前面几种方法不同的是，单纯形替换法不是利用搜索方向从一个点迭代到另一个更优的点，而是从一个单纯形迭代到另一个更优的单纯形。 定义： 单纯形—— n维空间中的由n+1个线性独立的点构成的有界的凸多面体。 根据定义，可知，一维空间中的单纯形是线段，二维空间中的单纯形是三角形，而三维空间中的单纯形则是四面体。 单形替换法的基本思想 利用单纯形的顶点，计算其函数值并加以比较，从中确定有利的搜索方向和步长，找到一个较好的点取代单纯形中较差的点，组成新的单纯形来代替原来的单纯形。使新单纯形不断地向目标函数的极小点靠近，直到搜索到极小点为止。 在单纯形替换算法中，从一个单纯形到另一个单纯形的迭代主要通过反射、扩张、收缩和缩边这4个操作来实现。下面以二维问题为例来对4种操作进行说明（参见下图）。 基本运算和搜索规则 （1）反射——设除了最劣点X1以外的基余顶点的中心为X4，作X1关于点X4的对称点X5，称X5为X1的反射点。求反射点的过程称之为反射。 设当前的单纯形的顶点为X1，X2，X3，且有 即反射点比最好点还好，说明搜索方向正确，还可以往前迈进一步，也就是可以扩张。这时取扩张点 式中 扩张因子，一般取 。 如果 ，说明扩张有利，就以 代替 构成新单纯形 。 （2）扩张和收缩——在得到反射点X5之后，计算X5点的函数值，可能出现一下四种情况： 否则说明扩张不利，舍弃 ，仍以 代替 构成新单纯形 。 2. 即反射点比最好点差，但比次差点好，说明反射可行，则以反射点代替最差点，仍构成新单纯形 。 3.