[工学]第4章 无约束优化方法--v2.pptVIP

优化设计理论与方法方法 第4章 多维无约束优化方法 4.1 本章导学 4.1.1 学习要点 方法的关键：形成有效的搜索方向。不同方法的主要特征，就体现在搜索方向上。 因此，在学习中应理解、掌握各种无约束优化方法的搜索方向的特点，搜索方向构造。 4.1 本章导学 4.1.2 学习内容 （1）内容：坐标轮换法、共轭方向法、鲍威尔法（重点）。 （2）三种方法的关系： 4.2 坐标轮换法 4.2.1 坐标轮换法的优化搜索过程 4.2.2 坐标轮换法的基本算法 (1) 迭代计算式： 4.2.2坐标轮换法的基本算法(3)步长α 的处理方法 ① 加速步长法 4.2.2坐标轮换法的基本算法(3)步长α 的处理方法 ①加速步长法 4.2.2 坐标轮换法的基本算法(4) 迭代模式 一轮做n次一维优化搜索 ----(i=1 to n)的计数循环 反复多轮次迭代，直到满足终止准则为止。 ----条件循环 4.2.3 最优步长法算法的N-S图 4.2.4 最优步长法坐标轮换法的核心程序 …… for i:=1 to n do begin for j:=1 to n do s[j]:=0; s[i]:=1; jtf(X0,S,t0,a,b); hjfgf(X0,S,a,b,a_,fmin, X); X 0:=X end; …… 4.2.6 坐标轮换法的不足之处 1）效能较低 4.3 共轭方向法 4.3.1 概述 坐标轮换法 ---正交方向搜索法 对具有同心圆等值线的二维目标函数 两次搜索达最优点 4.3.2 共轭向量(方向)的若干概念 (1) 共轭向量的定义 设A为n×n实对称正定矩阵，有一组非零的n维向量S1,S2 ,…，Sq (2≤q≤n）若满足： SiT ASj ＝0 i≠j，i,j＝1,…,q 则称向量组S i (i=1,…,q; 2≤q≤n)关于矩阵A是共轭的，或称向量组为A共轭。 (2)共轭向量的特例 设In为n阶单位矩阵，若： P1T In P2 ＝0，则 P1T P2 ＝0 ? P1T 与 P2 正交（共轭的特例 ） (3) 共轭向量的两个重要性质 性质1. 关于A共轭的向量组必为线性独立，共轭向量组中，共轭向量的个数最多等于维数n。 性质2．若向量组S1,S2 ,…，Sn对二次正定函数f(X)＝c+BTX＋1/2 XT AX的对称正定矩阵A共轭， 则从任意初始点X0 出发，依次沿这些共轭向量进行一维优化搜索，进行一维优化搜索， 至多n 次一维优化搜索，就可得到二次正定函数的极小点X* 。 4.3.3 数值方法构造共轭方向的原理 (1) 同心椭圆族的几何特性 在任意两个椭圆上作两条相平行的切线l1,l2 ，则两切点的连线必过椭圆族的中心 (2) 数值方法构造共轭方向的基本原理与方法 基本原理：同心椭圆族的几何特性。 (3) 构造共轭方向数值方法的归纳 用某一个不变的方向S1, 以两个不同的初始点作两次一维优化，得到两个最优点。 连接这两个最优点的连线方向S2 就是与S1共轭的方向。 对于n维问题，接着以S2 为搜索方向，重复上述步骤就可得到与S2 共轭的方向S3 ， 反复迭代，即可求得n个相互共轭的方向。 4.3.4 共轭方向法的迭代计算步骤 1) 置SS数组为n 阶单位阵，迭代轮次k＝1。 对于二维问题 4.3.4 共轭方向法的迭代计算步骤 (4) 更新搜索方向向量组SS 4.3.4 共轭方向法的迭代计算步骤 (5) k=k+1，如果k＞n，转步骤(6)，否则转步骤(2) 。 4.4 鲍威尔法 4.4.1 引言——共轭方向法的缺陷 1）共轭方向法在三维优化中的求解示意图 2） 共轭方向法的缺陷 如果某一次的一维优化的最优步长为零，例如第一轮的第一次搜索不成功，α1(1)=0, 4.4.2 鲍威尔法的方法要点 （1）要点 ①引入是否替换搜索方向的判据 ②以新的搜索方向组有更好的共轭性为依据，选取替换对象 （2）判据 (f1-2f2+f3 )(f1-f2-△m)2＜0.5△-m(f1-f3)2 且f3＜f1 f1=f(X0 (k))——第k轮的初始点X0 (k)上的函数值； f2 =f(Xn (k))——第k轮最后一次(第n)次一维优化的最优点Xn (k)上的函数值; f3 =f(X3 )，X3 ＝2Xn (k)-X0 (k)； 4.4.2 鲍威尔法的方法要点 （2）判据 (f1