机械优化的设计之无约束优化的方法.pptVIP

机械优化设计飞飞 第四章无约束优化方法 、概述 二、最速下降法(梯度法) 、牛顿型方法(牛顿法和阻尼牛顿法) 四、共轭方向和共轭方向法 五、共轭梯度法 六、变尺度法 七、坐标轮换法  一机械优化设计飞飞 实际中的工程问题大都是在一定限制条件下追 求某一指标为最小,属于约束优化问题 为什么要研究无约束优化问题? 1)有些实际问题,其数学模型本身就是一个无约束问题; 2)通过熟悉它的解法可以为研究约束优化问题打下良好的 基础 3)约束优化问题的求解可用通过一系列无约束优化方法来 达到 所以无约束优化问题的解法是优化设计方法的基本 组成部分,也是优化方法的基础。  机械优化设计飞飞 、概述 1、无约束优化问题 求几维设计变量X=[x,姨函数 f(X)→min,而对X没有任何限制条件 2、求解方法 (1)利用极值条件来确定极值点的位置 (2)数值计算方法——搜索方法 基本思想:从给定的初始点x°出发,沿某一搜索方向 d进行搜索,确定最佳步长a使函数值沿d°下降 最大。依此方式不断进行,形成迭代的下降算法 Xk+=Xk+a1d(k=0,1,2…)  机械优化设计飞飞1 3、算法框图 结定A,以的靓始值 计算a,使(x+ad)极 满足收敛案牛? 转東 形成新的d 堅4-1无约束极小化算法的粗图  一机械优化设计飞飞 4、无约束优化方法的分类 搜索方向的构成问题是无约束优化方法的关键。 根据确定其搜索方向d方法不同,可分为: (1)只利用目标函数值的无约束优化方法(或称直接法, 即不使用导数信息),如:坐标轮换法、单形替换法及鲍威 (Powe11)法。 直接法不必求函数导数,只计算目标函数值。适用于求 解变量个数较少(小于20)的问题,一般情况下效率较低。 (2)利用目标函数的一阶或二阶导数的无约束优化方法( 或称间接法)如:最速下降法(梯度法)、共轭梯度法、 牛顿法及变尺度法; 间接法除了要计算目标函数值外,还要计算目标函数的 梯度,有的还要计算其海赛矩阵;  机械优化设计 二、最速下降法(梯度法) 1、基本思想 函数的负梯度方向是函数值在该点下降最快的方向。 将n维问题转化为一系列沿负梯度方向用一维搜索方法寻 优的问题,即利用负梯度作为搜索方向,故称为最速下降 法或梯度法。 搜索方向取该点的负梯度方向即d=Vf(x),使函 数值在该点附近的范围内下降最快 X4+=x4-aVf(x)(k=0,1,2…)  一机械优化设计飞飞 2、最速下降法的原理 (1)使d=-Vf(X),按此规律不断走步,形成迭代算法: x+=x2-aVf(xX2)(k=012 (2)其步长因子a取一维搜索的最佳步长,即 (x)=5[x-a V5(=)]=min/[x-a V(*)=min o(a) 根据一元函数极值的必要条件和多元复合函数求导公 式,得 Vfix-akv(r)7 Vf(x=0 (x2)v(x2)=0或(-)d4=0  一机械优化设计飞飞 由此可知,在最速下降 法中,相邻两个迭代点上 的函数梯度相互垂直。而 搜索方向就是负梯度方向 ,因此相邻两个搜索方向 互相垂直。这就是说在迭 代点向函数极小点靠近的 过程,走的是曲折的路线0 形成“之”字形的锯齿现最速下降法的搜索路径 象,而且越接近极小点锯 齿越细。 函数梯度为局部性质,因此并非“最快”。  一机械优化设计飞飞 t(x X 梯度法的迭代历程  一机械优化设计飞飞 方法特点 1)初始点可任选,每次迭代计算量小,存储量少 ,程序简短。即使从一个不好的初始点出发,开 始的几步迭代,目标函数值下降很快,然后慢慢 逼近局部极小点; 2)任意相邻两点的搜索方向是正交的,它的迭代 路径为绕道逼近极小点。当迭代点接近极小点时 ,步长变得很小,越走越慢。