第十九章 无约束最化的直接方法.docVIP

第十九章 无约束最优化的直接方法 本章仍讨论无约束最优化问题：在实际问题中目标函数往往很复杂，从而导数表达式更加复杂，甚至难以推导或不存在。这种情况下用上一章介绍的方法就不行了，此时可用本章介绍的方法： 1） 由Spendy,Hext和Himsworth 1962 提出，经Nelden和Mend 1965 作出改进的单纯形替换法。 2） 步长加速法。 3） 方向加速法（又称共轭方向法）。 只要目标函数连续，这些方法就可以使用。由于这些方法无须计算目标函数的导数，因此又称为直接方法。但收敛速度比上一章的方法都要慢。 19.1单纯形替换法 定义19.1.1：单纯形：中的单纯形指具有n+1个顶点的多面体，若各棱长彼此相等，则称为正规单纯形。如：在中，三角形就是单纯形，正三角形就是正规单纯形。（正三角形是中周长一定包围面积最大的布点方式） 结论：设是某一单纯形的n+1个顶点向量, 则： 对于任意给定初始点z1和正数l，按如下公式取定的单纯形是一个以为z1顶点棱长为l的正规单纯形。。其中n 维向量z i ，如:z 2 ，…，z n-1 ， 其中 证明：当i 2,3…n+1时 将p,q代入上式有 当i,j 2,3…n+1时， 将值代入上式得： ,ij由上可知上面确定的单纯形为正规单纯形。 正规单纯形是一种特殊的单纯形，还有一种特殊的单纯形取法：其中 在中此特殊单纯形即为等腰直角三角形。 单纯形替换法的基本思想就是按上面取特殊单纯形的方法形成初始单纯形。然后从此出发，每次迭代都设法构造新的以替代旧的，使新单纯形不断向目标函数的极小点靠近，直到搜索到满意的极小点为止。 19.1.1 算法过程 单纯形替换法由两步构成：形成初始单纯形和迭代。而迭代过程又包括四项操作：反射，延伸，收缩和减小棱长。 已知目标函数f z 和终止限 1）设初始单纯形顶点的位置向量为.计算： ,其中分别为此单纯形的最好和最坏顶点。 取正规单纯形作为初始单纯形比取后一种形式好 若把顶点去掉，则剩下的n个顶点 不含 构成n-1维空间中的单纯形，按下面公式求其中心： 2）反射。 按如下公式通过反射: , 称为的反射点。因是坏点，则一般 有f f ，从而得到比更好的点,这时应按3进行伸延，否则进入3进行收缩工作。 3）延伸。 经过反射，若不仅有f f ,且进一步有f f ，则说明沿方向还可以向前迈一步，因此计算: +r 称为的延伸点，r 1是延伸系数，常取r 2,也可用直线搜索技术确定r.此时若有f f ,则以替换，而其余n个顶点不变, 构成新单纯形，转 4）收缩。（如在R中，由图a知以、、为顶点的新单纯形已向极小点靠近了一步。）否则，以反射点替换构成单纯形，转6步（如R中，由图19.1.1 b可知以、、为顶点的新单纯形向极小点靠近了一步） 图19.1.1a 图19.1.1b 若f f ，即反射点并不比原单纯形的最好点好，则分下列两种情况处理： 若存在一个标点i，使得f f ，,即除最坏点外，反射点比其他一个顶点好，因而可以用将替换构成新的单纯形，转6步（如中，图c所示，以、、为顶点的新单纯形向极小点迈进了一步） 4.2 若对i 1,2,3--n+1 但 均有f f ,则要进 行收缩。 收缩分以下两种情况 4.2.1 若f f ,即反射点比原来单纯形的坏点还坏，则舍弃，对方向-v0进行收缩。如图d 计算公式为；其中是的收缩点，而收缩常数常取为： 若f f ，即收缩点比原单纯形最坏点还坏，因此放弃点，转5步进行棱长减半工作。否则以替换构成新单纯形，转6。 4.2.2 若f f ，则对向量--进行收缩（如图19.1.1e），计算公式为 若f f ,即收缩点比反射点还坏，则放弃收缩点，转5进行棱长减半工作，否则以替换构成新单纯形，转6。 图19.1.1c 图19.1.1b 图19.1.1e 5）减小棱长。将原单纯形的最好点保持不动，各棱长减半，计算公式为 6）终止原则。计算，若，则v*为极小点，终止；否则，转1 例19.1.1 解：取初始点。为计算方便不取等边三角形为初始单纯形，而取直角三角形为初始单纯形，其顶点为： 相应函数值 45 , 125, 65 故 其中心 先做反射运算（为方便，取 1）因满足延伸条件，进行延伸实验（延伸系数r 2） 因延伸成功。取 此时得三个顶点及函数值为 下面开始第二次迭代 中心 反射 延伸 故以 （4，6）代替。f 4代替。转入下一次迭代。如此迭代下去最后可得极小点。 19.2 步长加速法 19.2.1 算法思路 步长加速法是由Hooke和Jeeves1961年提出的，对于变量数目较少的 无约束最优化问题，这是一种程序简单而又比较有效的方法。