重庆科创学院-现代设计方法之2.4无约束设计的最优化方法解决方案.ppt

主讲人：魏良庆;主要内容;重点难点;第2章第一节所列举的机械优化设计问题，都是在一定的限制条件下追求某一指标为最小，它们都属于多维约束优化问题。工程问题大都如此。 为什么要研究多维无约束优化问题??? ; (1)有些实际问题，其数学模型本身就是一个多维无约束优化问题。 (2)通过熟悉它的解法可以为研究多维约束优化问题打下良好的基础。 (3)多维约束优化问题的求解可以通过一系列多维无约束优化方法来达到。所以多维无约束优化问题的解法是优化设计方法的基本组成部分，也是优化方法的基础。;多维无约束优化问题是： 求n维设计变量 使目标函数： ;;多维无约束优化方法算法的基本过程:; 可以把初始点x(k)、搜索方向S(k)、迭代步长a(k)称为优化方法算法的三要素。其中以搜索方向S(k)更为突出和重要，它从根本上决定一个算法的成败、收敛速率的快慢等。 一个算法的搜索方向成为该优化方法的基本标志，分析、确定搜索方向S(k)是研究优化方法的最根本的任务之一。; 函数的负梯度方向是函数值下降最快的方向 搜索方向S取该点的负梯度方向 (最速下降方向)，使函数值在该点附近的范围内下降最快。;为了使目标函数值沿搜索方向 能够获得最大的下降值，其步长因子 应取一维搜索的最佳步长。即有;根据一元函数极值的必要条件和多元复合函数求导公式，得 ; 在最速下降(梯度)法中，相邻两个迭代点上的函数梯度相互垂直。而搜索方向就是负梯度方向，因此相邻两个搜索方向互相垂直。这就是说在迭代点向函数极小点靠近的过程，走的是曲折的路线。形成“之”字形的锯齿现象，而且越接近极小点锯齿越细。 ;;例2.4-1 求目标函数 的极小点。 初始点 解：初始点处函数值及梯度分别为;沿负梯度方向进行一维搜索，有;算出一维搜索最佳步长 ;这一问题的目标函数f(x)的等值线为一簇椭圆。; 仍从 即 出发进行最速下降法寻优。此时：;β;经变换后，只需一次迭代，就可找到最优解。;梯度法的特点:;（4）梯度法的收敛速度与目标函数的性质密切相关。对于等值线(面)为同心圆（球）的目标函数，一次搜索即可达到极小点。;2.4.2 共轭方向法 ;当G为单位矩阵时，; 因为 是沿S0方向搜索的最佳步长，即在点x1处函数f（x）沿方向S0的方向导数为零。考虑到点x1处方向导数与梯度之间的关系，故有;;α0S0;如果能够选定这样的搜索方向，那么对于二元二次函数只需顺次进行S0、S1两次直线搜索就可以求到极小点x*，即有;对于前述的二次函数: 有;就是使S1直指极小点x*，S1所必须满足的条件。;2.共轭方向的性质;关键：新的共轭方向确定;3.共轭梯度法;设与Sk共轭的下一个方向Sk+1由Sk和点xk+1的负梯度的线形组合构成，即：; 则：;;将式;因此;;迭代精度 。 ;为一维搜索最佳步长，应满足;得:;得:;得;共轭梯度法特点;比较梯度法与共轭梯度法;2.4.3 鲍威尔方法;1.共轭方向的生成;根据梯度和等值面相垂直的性质，Sj和xk,xk+1两点处的梯度gk，gk+1之间存在关系:;因而有;2.基本算法;用S1代替e1形成两个线性无关向量S1, e2 ，作为下一轮迭代的搜索方向。再从 出发，沿S1作一维搜索得点 ，作为下一轮迭代的初始点。 ;x;沿S2作一维搜索得点x2 ; 把二维情况的基本算法扩展到n维，则鲍威尔基本算法的要点是： 在每一轮迭代中总有一个始点（第一轮的始点是任选的初始点）和n个线性独立的搜索方向。从始点出发顺次沿n个方向作一维搜索得一终点，由始点和终点决定了一个新的搜索方向。 ;用这个方向替换原来n个方向中的一个，于是形成新的搜索方向组。替换的原则是去掉原方向组的第一个方向而将新方向排在原方向的最后。此外规定，从这一轮的搜索终点出发沿新的搜索方向作一维搜索而得到的极小点，作为下一轮迭代的始点。这样就形成算法的循环。 ; 因为在迭代中的n个搜索方向有时会变成线性相关而不能形成共轭方向的情况。从而导致可能求不到极小点，所以上述基本算法有待改进。 ;3.改进的算法;在改进的算法中首先判断原向量组是否需要替换。如果需要替换，还要进一步判断原向量组中哪个向量最坏，然后再用新产生的向量替换这个最坏的向量，以保证逐次生成共轭方向。;为此，要解决两个关键问题： （1）Sk＋1是否较好？是否应该进入新的方向组？即方向组是否进行更新？ （2）如果应该更新方向组， Sk＋1不一定替换方向 ，而是有选择地替换某一