现代设计方法与应用课件作者房亚东第七章节.pptVIP

* 主讲：房亚东 Email:fangyadong@ * 现代设计方法及其应用 西安工业大学机电学院 The Institute of Mechanical and Electrical Engineer, Xian Technological University 尚辅网 / 第七章 无约束优化方法 梯度法 无约束优化方法的Matlab程序及实例 3 1 2 牛顿法及其改进 4 5 坐标轮换法 变尺度法 6 Powell（鲍威尔）法 ■ 内容 ：本章介绍了无约束优化方法进行了讨论，重点介绍了梯度法、牛顿法、变尺度法、Powell法的求解步骤以及程序框图，并通过Matlab实现了无约束优化方法的实例求解。 ■ 目的 ：了解梯度法、牛顿法、变尺度法、Powell法的基本原理和求解步骤，能够熟练使用Matlab求解多次高阶的无约束优化问题。 直接解法，此类方法不用对函数求导，但是求解速度相当较 慢，如坐标轮换法、鲍威尔法(Powell法)、随机搜索法、单纯形法等； 间接解法(或解析法)，该方法需要对到f(x)求导，如用到一阶导数的方法有梯度法、共轭梯度法和变尺度法，用到二阶导数的方法以牛顿法为代表。 7.1 梯度法 对设计变量的取值范围不加任何限制的优化问题，称为无约束优化问题。其数学模型为:minf(X), X∈Rn, 求解的基本思想是从当前点X(k)出发，沿着按一定规律产生的搜索方向S(k)，寻找α(k)使函数值下降的新迭代点X(k+1)= X(k)+ α(k) S(k)。随着迭代次数k的不断增加，无约束优化问题将逐步逼近其最优点，使得f(X(k+1)) f(X(k))。 7.1 梯度法 （续） 图 梯度法程序框图 7.1 梯度法 （续） 例7-1 试用梯度法求函数f(X)= x12+25 x22的极小值，设初始点X(0) =[ X1(0) X2 (0)]T=[ 2 2]T，收敛要求ε=10-2。 梯度法搜索过程如图所示，其特点分析如下： （1）程序简单，计算量少，对初始点要求不严格； （2）梯度法不能保证搜索方向直指极小点，它仅能保证搜索方向是一次的最速下降方向。 （3）迭代路径呈锯齿形。 接近极值点时，速度变慢。 当目标函数的等值线（面）是 扁平的椭圆（椭球）时，收敛更慢。 X(k) X* S(k) X(k+1) X(k+2) X(k+3) S(k+1) 图 梯度法的搜索过程 7.2 牛顿法及其改进 在极值点处，目标函数等值线的形状接近于一个椭圆或者是超椭圆，故可用多元二次函数去逼近或代替极值点附近真实的函数形状，并且用近似的二次函数极值点来代替原函数真实的极值点，这样就可以不断缩小搜索空间，利用二次函数极值点来逼近目标函数的极值点。 图 牛顿法程序框图 7.2 牛顿法及其改进（续） 例7-2 试用牛顿法求函数 f(X)= x12+8 x22的极小值， 设初始点X(0) =[ X1(0) X2 (0)]T =[1 1]T。 图 阻尼牛顿法程序框图 变尺度法是在牛顿法的基础上发展起来的，它和梯度法亦有密切关系，该方法被公认为是求解无约束极值问题最有效的算法之一。 其算法描述如下所示： 7.3 变尺度法 STEP1 给定初始点X(0)、收敛精度ε以及初始尺度矩阵A(0) =E，令k=0； STEP2 计算目标函数的梯度向量▽f(X(k))； STEP3 检查是否满足收敛性判别准则： 若║▽f(X(k))║ε，则停止迭代，输出极小点X(k) 及函数值f(X(k))； 若不满足收敛准则，则转向STEP 4; 7.3 变尺度法（续） STEP4 令S(k) =- A(k)▽f(X(k))； STEP5进行一维搜索，求最优步长α(k)，使得minf(X(k)+ αS(k))=f(X(k)+ α(k) S(k))，其中α0; STEP6 判断迭代次数是否达到问题维数： 若k=n，则重置，X(0)= X(k+1)，k=0，转向STEP3； 否则，转向STEP7； STEP7 由公式7-17、7-18、7-19计算修正系数ΔA(k)； STEP8 由公式7-14计算尺度矩阵A(k+1)，并求解S(k+1) ，令k=k+1，并转向STEP5； 坐标轮换法是一种典型的降维方法，它不需要求函数导数就可以直接搜索目标函数的最优解。坐标轮换法又称为变量轮换法，其基本思想是将n维设计变量的优化问题，转化为一系列的一维优化问题来求解。 7.4 坐标轮换法 对于k轮探索，其迭代计算公式为： 其中，Xi(k)为第k轮搜索沿i坐 标轴方向迭代后的点，Si(k) 依次取n维空间的单位向量 ei（i=1,2,…,n），即