-第四章无约束优化.ppt

* bjhk 第七节 坐标轮换法 坐标轮换法是每次搜索只允许一个变量变化，其余变量保持 不变，即沿坐标方向轮流进行搜索的寻优方法。 它把多变量的优化问题轮流地转化成单变量的优化问题。 因此又称变量轮换法。 其基本原理是将一个多维的无约束最优化问题转化为一系列较低维的最优化问题来求解，简单地说，就是先将(n-1)个变量固定不动，只对第一个变量进行一维搜索得到最优点x1（1）。然后，又保持(n-1)个变量不变，再对第二个变量进行一维搜索到x2（1）等等。 * bjhk * bjhk 图4－12 坐标轮换法原理图（动画演示） * bjhk hjkh l;kl hjkh l;kl hjkh l;kl hjkh l;kl hjkh l;kl hjkh l;kl hjkh l;kl hjkh l;kl 第四章无约束优化方法 第一节 概述 从第一章列举的机械设计问题，大多数实际问题是约束优化问题。 约束优化问题的求解——转化为一系列的无约束优化问 题实现的。 因此，无约束优化问题的解法是优化设计方法的基本组 成部分，也是优化方法的基础。 无约束优化问题的极值条件 * bjhk 解析法 数值法 数学模型复杂时不便求解 可以处理复杂函数及没有数学表达式 的优化设计问题 搜索方向问题是无约束优化方法的关键。 各种无约束优化方法的区别：确定搜索方向的方法不同。 无约束优化方法分类 利用目标函数的一阶或二阶导数 利用目标函数值 （最速下降法、共轭梯度法、牛顿法） （坐标轮换法、鲍威尔等） * bjhk * bjhk 第二节 最速下降法 优化设计追求目标函数值最小，若搜索方向取该点的负梯度 方向，使函数值在该点附近的范围内下降最快。 按此规律不断走步，形成以下迭代算法： 以负梯度方向为搜索方向，所以称最速下降法或梯度法。 搜索方向确定为负梯度方向，还需确定步长因子 即求一维搜索的最佳步长，既有 * bjhk 由此可知，在最速下降法中，相邻两个迭代点上的函数 梯度相互垂直。而搜索方向就是负梯度方向，因此相邻 两个搜索方向互相垂直。 * bjhk * bjhk 例4-1 求目标函数 的极小点。 * bjhk * bjhk 第三节牛顿型方法 在第三章中，我们已经讨论了一维搜索的牛顿方法。 得出一维情况下的牛顿迭代公式 对于多元函数，在 泰勒展开，得 设 为函数的极小点，根据极值的必要条件 * bjhk 这是多元函数求极值的牛顿法迭代公式。 例4-2 用牛顿法求 的极小值。 对牛顿法进行改进，提出“阻尼牛顿法” * bjhk * bjhk 第四节共轭方向及共轭方向法 为了克服最速下降法的锯齿现象，提高收敛速度，发展了 一类共轭方向法。搜索方向是共轭方向。 一、共轭方向的概念 共轭方向的概念是在研究二次函数 时引出的。 首先考虑二维情况 * bjhk 如果按最速下降法，选择负梯度方向为搜索方向，会产生锯齿现象。 为避免锯齿的发生，取下一次的迭代搜索方向直接指向极 小点，如果选定这样的搜索方向，对于二元二次函数只需 进行两次直线搜索就可以求到极小点。 * bjhk 应满足什么条件？ 对于二次函数 在 处取得极小点的必要条件 等式两边同乘 得 是对G的共轭方向。 * bjhk 三、共轭方向法 1、选定初始点 ，下降方向 和收敛精度ε，k=0。 2、沿 方向进行一维搜索，得 3、判断 是否满足，若满足则打印 否则转4。 4、提供新的共轭方向 ，使 5、置 ，转2。 * bjhk * bjhk 第五节 共轭梯度法 共轭梯度法是共轭方向法的一种，共轭向量有迭代点 的负梯度构造出来，所以称共轭梯度法。 从点 出发，沿G某一共轭方向 作一维搜索,到达 而在点 、 处的梯度分别为： * bjhk 得出共轭方向与梯度之间的关系。此式表明沿方向 进行一维搜索，其终点 与始点 的梯度值差 与 的共轭方向 正交。 * bjhk 图4-9 共轭梯度法的几何说明 * bjhk * bjhk 第六节变尺度法 变尺度法的基本思想： 前面讨论的梯度法和牛顿法，它们的迭代公式可以看作下列 公式的特例。 变尺度法是对牛顿法的修正，它不是计算二阶导数的矩阵和 它的逆矩阵，而是设法构造一个对称正定矩阵H来代替Hesse 矩阵的逆矩阵。并在迭代过程中，使其逐渐逼近H-1 。 由于对称矩阵H在迭代过程中是不断修正改变的，它对于一 般尺度的梯度起到改变尺度的作用，因此H又称变尺度矩阵。 * bjh