机械优化设计)王.ppt

§4-4一维搜索的插值方法 一、牛顿法（切线法） 一、坐标轮换法的原理与计算方法 坐标轮换法，它是把一个n维无约束最优化问题转化为依次沿相应的n个坐标轴方向的一维最优化问题，并反复进行若干轮循环选代来求解的直接搜索方法。 二、迭代过程及算法框图 根据上述原理，对于第k轮计算，变量轮换法迭代公式为 Xi(k)= Xi-1(k) +αi(k) Si(k) (i=1,2,…,n) 式中 Si(k) ----搜索方向； αi(k) ----步长因子。 Si(k) 轮流取n维空间各坐标轴的单位向量ei (i=1,2,…,n)，即 第四章 无约束优化 计算方法 解： 求共轭方向 该方向上映射点 计算相邻两点函数值的最大下降量 最大下降量的方向： §4-4 多变量优化算法—Powell法 第四章 无约束优化 计算方法 解： 检验判别式 两式同时成立， 该轮的极小点： §4-4 多变量优化算法—Powell法 第四章 无约束优化 计算方法 解： 检验判别式 故误差已小于或等于0.0001，停止计算。 检验收敛条件 对于n元二次目标函数， 通常经过n轮迭代即可近似达到最优点 §4-4 多变量优化算法—Powell法 第四章 无约束优化 计算方法 1、基本思想 §4-5 多变量优化算法—梯度法及共轭梯度法 一、梯度法 第四章 无约束优化 计算方法 1、基本思想 §4-5 多变量优化算法—梯度法及共轭梯度法 一、梯度法 第四章 无约束优化 计算方法 2、计算步骤 §4-5 多变量优化算法—梯度法及共轭梯度法 一、梯度法 开始 是 结束 否 第四章 无约束优化 计算方法 §4-5 多变量优化算法—梯度法及共轭梯度法 一、梯度法 解： 第四章 无约束优化 计算方法 §4-5 多变量优化算法—梯度法及共轭梯度法 解： 完成第一轮迭代，需要继续迭代求解，过程同上。 第四章 无约束优化 计算方法 §4-5 多变量优化算法—梯度法及共轭梯度法 解： 3、梯度法特点 优点 算法简单，储存量小 初始点要求不严格 缺点 收敛速度先快后慢 原因：相邻两次搜索方向是正交的 如何改进梯度法 第四章 无约束优化 计算方法 1、基本思想(共轭方向构造) 二、共轭梯度法 §4-5 多变量优化算法—梯度法及共轭梯度法 以后以 即将 向量表示成 的向量的线性组合 则要求向量s(k+1)与s(k) 满足共轭性条件,即 [s(k+1)]TAs(k)=0 关于?k的确定 设函数为二次型 对于x(k) 和x(k+1)点,若令 gk=?f(x(k))和gk+1=?f(x(k+1）)，则有 将上两式相减得： 考虑共轭性条件,[s(k+1)]TAs(k)=0 分子项 对上式转置 （4-40） 牛顿法的优点是收敛速度快。缺点是要计算函数的一阶和二阶导数，因而增加了每次迭代的工作量。如果用数值微分计算函数的二阶导数，其舍入误差将严重影响牛顿法的收敛速度， f’(x)的值越小，这个问题就越严重。另外，牛顿法要求初始点选的比较好，也就是说应离极小点不太远，否则有可能使极小化序列发散或收敛到非极小点。 多变量优化算法 第四章 无约束优化 计算方法 按是否用到导数信息，可分为两类 1.直接法：不用导数信息 如：坐标轮换法、Powell法、单纯形法 2.间接法：用导数信息 如：梯度法、共轭梯度法、牛顿法、变尺度法 4-3 坐标轮换法 设二元目标函数f(X)= f(x1, x2)。其等值线示于图中。 对该二维问题，经过沿e1、e2两次一维搜索称为完成了一轮迭代。 第二轮迭代则是以第一轮迭代的末点X2(1)作为第二轮迭代的起始点。 X1(2)= X0(2)+α1(2) e1 X2(2)= X1(2)+α2(2) e2 最后的迭代点必将逼近该二维目标函数的最优点。 X1(1)= X0(1)+α1(1) e1 X2(1)= X1(1)+α2(1) e2 任选一个初始点X(0)作为第一轮的始点X0(1) 1、加速步长法 加速步长法是以成倍数增加的试验步长来寻找新点的方法。 2、最优步长法。 每次沿一个坐标轴方向搜索时，利用一维搜索法确定最优步长αi(k) ，即在第k轮的第i次迭代中，其最优步长αi(k)使 min f(Xi-1(k)+ α(k) Si(k)) = f(Xi-1(k)+ αi(k) Si(k)) αi(k)取正值或负值均可,但必须使f(Xi(k))＜f(Xi-1(k))，步长因子的选取：搜索步长或步长因子通常有如下两种取法： 变量轮换法的具体迭代步骤如下： (1)给定