优化设计无约束优化方法第04章3.pptxVIP

一、坐标轮换法的方法特点（1）计算量少，程序简单，不需要求函数导数的直接探索目标函数最优解的方法；（2）探索路线较长，问题的维数愈多求解的效率愈低。当维数n＞10时，则不应采用此法。仅适用于n较少（n 10）的目标函数求优； （3）改变初始点重新迭代，可避免出现病态。 二、算法框图步长加速法（Hook-Reeves算法）一、步长加速法原理或称为离散步长的Hook-Reeves算法，是一种不使用导数的直接搜索算法，其算法过程可分成两个基本阶段：坐标循环试探及模矢加速搜索。已知初始探点Xk，以此点作为Y0出发，依次沿n个坐标方向用固定步长△进行试探，寻找更好的点Y1,Y2,..,Yn，并记Yn为Xk+1。而模矢加速搜索，就是沿模矢方向(Xk+1-Xk)加大步长前进，以得到第k+1次迭代的出发点Y0，这样就完成了一次迭代，然后再从新的Y0出发，进行下一轮坐标循环试探，如此重复进行，使目标值不断减小。2、步长加速法算法设问题为：X0为初始点，e1，e2，..，en依次是n个坐标轴的单位方向向量，初始坐标循环试探的步长为△0，模矢加速搜索的加速步长因子为a1（通常取a=2），迭代终止准则为Δ≤ε (ε为预先确定的正数）。（2）?（3）若（2）；否则，转（4）转（5）；（4）（5）否则，令（6）否则，，转（2）否则转（6）（1）Hook-Reeves算法框图第八节 鲍威尔方法鲍威尔法是以共轭方向为基础的收敛较快的直接法之一，是一种十分有效的算法。理论的产生鲍维尔， 1964年基本思想直接利用迭代点的目标函数值来构造共轭方向，然后从任一初始点开始，逐次沿共轭方向作一维搜索求极小点。jdj因而有jdkg取gk+1dkkk+1xx一、共轭方向的生成设xk, xk+1为从不同点出发，沿同一方向dj进行一维搜索而得到的两个极小点。 可得：这说明只要沿dj方向分别对函作两次一维搜索，得到两个极小点xk和xk+1 ，那么这两点的连线所给出的方向dk就是与dj一起对G共轭的方向。另由：可得：，则可知，dk与dj共轭。x2d1*x1d2e2e0x1xo1二、鲍威尔基本算法用二维情况描述鲍威尔的基本算法: 1）任选一初始点x0，再选两个线性无关的向量构成一个向量组。一般选坐标轴单位向量e1=[1,0]T和e2=[0,1]T作为初始搜索方向。2）从x0出发，顺次沿e1， e2作一维搜索，得x10，x20，两点连线得一新方向d1。再从x20出发，沿d1作一维搜索得点x01，即下一轮的初始点。用d1代替e1形成下一轮搜索的方向向量组，即d1 ,e2。x2d1*x1d2e2e0x1xo13）从x01出发，顺次沿e2,d1 作一维搜索，得到点x11和x21，两点连线得一新方向:沿d2作一维搜索得点x2 ，此即二维问题的极小点x*。 鲍威尔方法的基本迭代格式包括两部分：a）共轭方向产生；b）方向替换。n维鲍威尔基本算法的要点把二维情况扩展到n维，则鲍威尔基本算法的要点是：在每一轮迭代中总有一个始点（第一轮的始点是任选的初始点）和n个线性独立的搜索方向。从始点出发顺次沿n个方向作一维搜索得一终点，由始点和终点决定了一个新的搜索方向。用这个方向替换原来n个方向中的一个，于是形成新的搜索方向组。替换的原则是去掉原方向组的第一个方向而将新方向排在原方向组的最后。此外规定，从这一轮的搜索终点出发沿新的搜索方向作一维搜索而得到的极小点，作为下一轮迭代的始点。这样就形成算法的循环。上述基本算法仅具有理论意义。因为在迭代中的n个搜索方向有时会变成线性相关而不能形成共轭方向，导致搜索失败。三、鲍威尔改进算法在鲍威尔基本算法中，每一轮迭代都用连结始点和终点所产生出的搜索方向去替换原向量组中的第一个向量，而不管它的“好坏”，这是容易产生向量组线性相关的原因。 在改进的算法中：①首先判断原向量组是否需要替换；②如果需要替换，还要进一步判断原向量组中哪个向量最坏；③然后再用新产生的向量替换这个最坏的向量，以保证逐次生成共轭方向。鲍威尔改进算法图解第k轮始点x0k方向组[d1k,d2k,d3k,…,dmk,…,dnk]鲍威尔改进算法图解x2kd2kd3kx1k最大落差Δm=fm-1-fmx3kd1kxm-1kxmkdmk判断条件：x0k(F0）- k轮始点dn+1kdnkxnk(F2)– k轮终点x0k+1 ：一维搜索终点xn+1k(F3)– x0k相对xnk的反射点第k+1轮:始点x0k+1={x|min(f(x0k )+αkdn+1k)}方向组：不变，即[d1k,d2k,d3k,…,dmk,…,dnk]1）不满足，则2）满足，则将dn+1k附入方向组，而去掉dmk。第k+1轮:始点x0k+1={x|min(f(xnk )，f(xn+1k))}方向组：变化,即[d1k,d2k,…,dm-1k,