机械优化设计4章无约束优化方法.pptVIP

二、基本算法 三、改进的算法 在鲍维尔基本算法中，每一轮迭代都用连结始点和终点 所产生出的搜索方向去替换原来向量组中的第一个向量， 而不管它的“好坏”。 改进的算法是：首先判断原向量组是否需要替换。如需要 替换，在产生新的向量。 单纯形法:通过计算单纯形顶点的函数值并加以比较，找到一个较好的点组成新的单纯形。不断地向极小点靠近。 属于直接寻优方法类，仅需要目标函数值信息。 第八节 单纯形法 4.8.1单纯形法基本原理 单纯形是指在n维空间中具有n+1个顶点的多面体。 以二元函数 为例 设 ， 最好点， 最差点， 次坏点 点称作 点的相对于 点的反射点 第九节变尺度法 变尺度法的基本思想： 前面讨论的梯度法和牛顿法，它们的迭代公式可以看作下列 公式的特例。 变尺度法是对牛顿法的修正，它不是计算二阶导数的矩阵和 它的逆矩阵，而是设法构造一个对称正定矩阵H来代替Hesse 矩阵的逆矩阵。并在迭代过程中，使其逐渐逼近H-1 。 由于对称矩阵H在迭代过程中是不断修正改变的，它对于一 般尺度的梯度起到改变尺度的作用，因此H又称变尺度矩阵。 一、尺度矩阵的概念 变量的尺度变换是放大或缩小各个坐标。 通过尺度变换可以把函数的偏心程度降低到最低限度。 对于一般二次函数 如果进行尺度变换 则在新的坐标系中，函数的二次项变为 选择这样变换的目的：降低二次项的偏心程度。 若矩阵G是正定的，则总存在矩阵Q使 使得函数偏心度变为零。 用Q-1 右乘等式两边，得 再用Q左乘等式两边，得 所以 说明二次函数矩阵G的逆矩阵，可以通过尺度变换矩阵Q 求得。 这样，牛顿法迭代过程中的牛顿方向可写成： 三、变尺度法的一般步骤 第四章无约束优化方法 第一节 概述 从第一章列举的机械设计问题，大多数实际问题是约束优化问题。 约束优化问题的求解——转化为一系列的无约束优化问题实现的。 因此，无约束优化问题的解法是优化设计方法的基本组成部分，也是优化方法的基础。 无约束优化问题的极值条件 解析法(间接解法) 数值法(直接解法) 数学模型复杂时不便求解 可以处理复杂函数及没有数学表达式 的优化设计问题 搜索方向问题是无约束优化方法的关键。 各种无约束优化方法的区别：确定搜索方向的方法不同。 无约束优化方法分类 利用目标函数的一阶或二阶导数 利用目标函数值 （最速下降法、共轭梯度法、牛顿法） （坐标轮换法、鲍威尔等） 第二节 最速下降法 优化设计追求目标函数值最小，若搜索方向取该点的负梯度方向，使函数值在该点附近的范围内下降最快。 按此规律不断走步，形成以下迭代算法： 以负梯度方向为搜索方向，所以称最速下降法或梯度法。 搜索方向确定为负梯度方向，还需确定步长因子 即求一维搜索的最佳步长，既有 由此可知，在最速下降法中，相邻两个迭代点上的函数梯度相互垂直。而搜索方向就是负梯度方向，因此相邻两个搜索方向互相垂直。 例4-1 求目标函数 的极小点。 作业 第四章 习题 4-3设目标函数为 ，试用最速下降法求其最优解。 第三节牛顿型方法 在第三章中，我们已经讨论了一维搜索的牛顿方法。 得出一维情况下的牛顿迭代公式 对于多元函数，在 泰勒展开，得 设 为函数的极小点，根据极值的必要条件 这是多元函数求极值的牛顿法迭代公式。 例4-2 用牛顿法求 的极小值。 对牛顿法进行改进，提出“阻尼牛顿法” 第四节共轭方向及共轭方向法 为了克服最速下降法的锯齿现象，提高收敛速度，发展了一类共轭方向法。搜索方向是共轭方向。 一、共轭方向的概念 共轭方向的概念是在研究二次函数 时引出的。 首先考虑二维情况 如果按最速下降法，选择负梯度方向为搜索方向，会产生锯齿现象。 为避免锯齿的发生，取下一次的迭代搜索方向直接指向极小点，如果选定这样的搜索方向，对于二元二次函数只需进行两次直线搜索就可以求到极小点。 应满足什么条件？ 对于二次函数 在 处取得极小点的必要条件 等式两边同乘 得 是对G的共轭方向。 三、共轭方向法 1、选定初始点 ，下降方向 和收敛精度ε，k=0。 2、沿 方向进行一维搜索，得 3、判断 是否满足，若满足则打印 否则转4。 4、提供新的共轭方向 ，使 5、置 ，转2。 第五节 共轭梯度法 共轭梯度法是共轭方向法的一种，共轭向量有迭代点 的负梯度构造出来，所以称共轭梯度法。 从点 出发，沿G某一共轭方向 作一维搜索,到达 而在点 、 处的梯度分别为： 得出共轭方向