机械优化设计第4章无约束优化方法.pptVIP

第四章 无约束优化方法 第三节 牛顿型法 ， 阻尼牛顿法的迭代公式： 第四章 无约束优化方法 第四节 共轭方向及共轭方向法 ， 在下一次迭代时，选择搜索方d1指向极小点x*， 共轭方向 以二元函数为例： 我们任意选择一个初始点x0点， 沿着某个下降方向d0作一维搜索 第四章 无约束优化方法 第四节 共轭方向及共轭方向法 ， 共轭方向 正交 第四章 无约束优化方法 第四节 共轭方向及共轭方向法 ， 共轭方向的性质 第四章 无约束优化方法 第四节 共轭方向及共轭方向法 ， 共轭方向法的步骤 第四章 无约束优化方法 第四节 共轭方向及共轭方向法 ， 共轭方向的形成 格拉姆-斯密特向量系共轭化的方法 n个线性无关的向量系vi（i=0,1，…，n-1 ） 一组独立向量dr（r=0,1，…，n-1） 第四章 无约束优化方法 第四节 共轭方向及共轭方向法 ， 第四章 无约束优化方法 第五节 共轭梯度法 ， 共轭梯度法： 先沿最速下降方向(负梯度方向)探索第一步，然后沿与该负梯度方向相共轭的方向进行探索。 第四章 无约束优化方法 第五节 共轭梯度法 ， 共轭方向与梯度之间的关系： 它表示沿着方向dk做一维搜索， 它的终点xk+1与始点xk的梯度之差 与dk的共轭方向dj正交。 第四章 无约束优化方法 第五节 共轭梯度法 ， 共轭梯度法递推公式： 第四章 无约束优化方法 第五节 共轭梯度法 ， 共轭梯度法步骤： 第四章 无约束优化方法 第五节 共轭梯度法 ， 共轭梯度法步骤： 第四章 无约束优化方法 第五节 共轭梯度法 ， 共轭梯度法 设法构造出一个对称正定矩阵 来代替 ，并在迭代过程中使 逐渐逼近 ,那么就简化了牛顿法的计算，并且保持了牛顿法收敛快的优点。 第四章 无约束优化方法 第六节 变尺度法（拟牛顿法） ， 变尺度法的基本思想： 牛顿方向： 变尺度法的迭代公式： 尺度矩阵 第四章 无约束优化方法 第六节 变尺度法（拟牛顿法） ， 尺度矩阵 G 正定 牛顿迭代公式： 目的：目标函数的偏心率减小到零。 第四章 无约束优化方法 第六节 变尺度法（拟牛顿法） ， 变尺度矩阵的建立： 变尺度法的迭代公式： 搜索方向： 尺度矩阵应具备的条件： 1）为正定对称矩阵； 2）具有简单的迭代形式: 3）满足拟牛顿条件： 令 则 第四章 无约束优化方法 第六节 变尺度法（拟牛顿法） ， 变尺度法的一般步骤： 第四章 无约束优化方法 第六节 变尺度法（拟牛顿法） ， 变尺度法的流程图： 第四章 无约束优化方法 第六节 变尺度法（拟牛顿法） ， DFP算法： DFP算法的校正公式 第四章 无约束优化方法 第六节 变尺度法（拟牛顿法） ， DFP算法： 第四章 无约束优化方法 第七节 坐标轮换法 ， 基本思想： 每次仅对多元函数的一个变量沿其坐标轴进行一维探索，其余各变量均固定不动，并依次轮换进行一维探索的坐标轴，完成第一轮探索后再重新进行第二轮探索，直到找到目标函数在全域上的最小点为止。 目的：将一个多维的无约束最优化问题，转化为一系列的一维问题来求解。 第四章 无约束优化方法 第七节 坐标轮换法 ， 二维问题 第四章 无约束优化方法 第七节 坐标轮换法 ， 第k轮迭代公式： 包括正负 * * * * * * * * * * * * * * * * * * * 机械优化设计 第四章 无约束优化方法 × 4.1 概述 4.2 最速下降法 4.3 牛顿型方法 4.4 共轭方向及共轭方向法 4.5 共轭梯度法 4.6 变尺度法 4.7 坐标轮换法 4.8 鲍威尔方法 4.9 单型替换法 第四章 无约束优化方法 第一节 概 述 ， 数值解法：是利用已有的信息，通过计算点一步一步地直接移动，逐步逼近最后达到最优点。 1）选择迭代方向即探索方向； 2）在确定的方向上选择适当步长迈步进行探索 第四章 无约束优化方法 第一节 概 述 ， 无约束优化方法可以分成两类： 一类是利用目标函数的一阶或二阶导数的无约束优化方 法（如最速下降法、共轭梯度法、牛顿法及变尺度法）； 另一类只利用目标函数的无约束优化方法（如坐标轮换 法、单形替换法及鲍威尔法等）。 第四章 无约束优化方法 第二节 最速下降法 ， 定义： 最速下降法就是采用使目标函数值下降得最快的负梯度方向作为探索方向，来求目标函数的极小值的方法，又称为梯度法。 最速下降法的迭代公式 第四章 无约束优化方法 第二节 最速下降法 ， 最速下降法的迭代步骤： 第四章 无约束优化