机械优化设计--第四章节(第5次课).pptVIP

何军良 11:38 1 2 目 录 CONTENTS 11:38 第四章 无约束优化方法 概述 01 最速下降法 牛顿型方法 共轭方向与共轭方向法 02 03 04 共轭梯度法 05 变尺度法 坐标轮换法 鲍威尔方法 06 07 08 单形替换法 09 11:38 3 4 4.1 概述 工程问题大都为有约束优化问题。 为什么要研究无约束优化问题? 有些实际问题，其数学模型本身就是一个无约束优化问题。 通过熟悉它的解法可以为研究约束优化问题打下良好的基础。 约束优化问题的求解可以通过一系列无约束优化方法来达到。所以无约束优化问题的解法是优化设计方法的基本组成部分，也是优化方法的基础。 11:38 5 4.1 概述 无约束优化问题是： 求n 维设计变量 使目标函数 无约束优化问题极值存在的必要条件： 11:38 6 4.1 概述 目前已研究出很多种无约束优化方法，它们的主要不同点在于构造搜索方向上的差别。 （1）间接法——要使用导数，如梯度法、（阻尼）牛顿法、变尺度法、共轭梯度法等。 （2）直接法——不使用导数信息，如坐标轮换法、鲍威尔法、单形替换法等。 用直接法寻找极小点时，不必求函数的导数，只要计算目标函数值。这类方法较适用于解决变量个数较少的(n ≤20)问题，一般情况下比间接法效率低。间接法除要计算目标函数值外，还要计算目标函数的梯度，有的还要计算其海赛矩阵。 搜索方向的构成问题乃是无约束优化方法的关键。 其搜索方向直接取定或由计算目标函数值所得的信息来确定。 11:38 7 4.1 概述 7 7 选择初始迭代点x0。 从迭代点xk出发进行搜索，确定使目标函数值下降的搜索方向dk。 确定适当的步长因子αk，求xk+1 = xk + αk dk ，使f(xk+1)f(xk)。 选择适当的终止准则，若xk+1满足终止准则，则终止迭代计算，并输出局部最优点x*← xk+1 ；否则，令k←k+1，返回步骤(2)继续进行优化搜索。 无约束优化方法求解的四个步骤: 11:38 8 4.2 最速下降法 （1） 基本思想 终止判别条件 11:38 9 4.2 最速下降法 （2） 计算方法 为了使目标函数值沿搜索方向 能够获得最大的下降值，其步长因子 应取一维搜索的最佳步长。即有 步长因子求解方法： 解析法：根据极值点必要条件。 黄金分割法 牛顿法 抛物线法 11:38 10 4.2 最速下降法 （2） 计算方法 根据一元函数极值的必要条件及复合函数求导公式得 11:38 11 4.2 最速下降法 （3） 现象 最速下降法的搜索路径 在最速下降法中，相邻两个迭代点上的函数梯度相互垂直。 搜索方向就是负梯度方向，因此相邻两个搜索方向互相垂直。 形成“之”字形的锯齿现象，而且越接近极小点锯齿越细。 11:38 12 4.2 最速下降法 在远离极小点位置，每次迭代可使函数值有较多的下降。 在接近极小点位置，每次迭代行进的距离缩短，收敛速度减慢。 最速下降性”只是迭代点邻域的局部性质。从全局看，并非最速下降方向。 （3） 现象 11:38 13 4.2 最速下降法 （4） 计算步骤 1) 给定初始迭代点x0，精度ε，维数n； 2) 令k←0； 3) 计算xk的梯度 ； 4) 以xk点为出发点，求 方向上的最优步长αk，有 ； 终止判别 ？若满足条件，输出最优解， xk+1 →x*, f*←f (x*)。否则，令k ← k+1，转步骤3)。 11:38 14 4.2 最速下降法 （4） 计算步骤 11:38 15 4.2 最速下降法 （5） 举例 沿负梯度方向进行一维搜索，有 解：初始点处梯度： 11:38 16 4.2 最速下降法 （5） 举例 11:38 17 4.2 最速下降法 （5） 举例 第一次迭代设计点位置和函数值 因此，迭代终止： 11:38 18 4.2 最速下降法 （5） 举例 11:38 19 4.2 最速下降法 （5） 举例 例：用最速下降法求 极小点，精度 解：1）取初始点 。 初始梯度 2）沿负梯度方向一维搜索 3）求最优步长 初始点处函数值 11:38 20 4.2 最速下降法 （5） 举例 4) 计算新的迭代点位置和函数值 5）迭