现代设计方法14章 优化设计-多维无约束优化2.pptx

第14讲 最优化设计——多维无约束优化2;14.3 梯度法;按上式求得负梯度方向的一个极小点 ， 作为原问题的一个近似最优解； 若此解尚不满足精度要求， 则再以 作为迭代起始点， 以 处的负梯度方向 作为搜索方向， 求得该方向的极小点 ， 如此进行下去，直到求得的解　　　满足收敛条件为止。;解：由梯度的定义，该目标函数的梯度为：;梯度法的终止条件：;14.4 牛顿法 ;　　现用二维问题来加以说明， 　　将目标函数 　　 在给定点 作泰勒展开，并取二次近似式：;　　在一般情况下，　　不一定是二次函数， 　　则所求得的极小点　 也不一定是原目标函数　　 的真正极小点。 　 　　但由于在　　点附近，函数　　 和　　 是近似的， 　　因而 可作为 的近似极小点。 　　为求得满足精度要求的近似极小点 ??? 　　可将 作为下一次迭代的起始点 ，即得 ;上式中的搜索方向　　　　　称为牛顿方向， 可见原始牛顿法的步长因子恒取：　　 　， 因此，原始牛顿法是一种定步长的迭代过程。;14.5 变尺度法 ;1. DFP变尺度法 ;变尺度矩阵可用下式迭代：;　　 上式　　　称为DFP公式，由该式可以看出， 　　变尺度矩阵 的确定取决于在第 k 次迭代中的下列信息：;DFP变尺度法的迭代步骤为：;DFP变尺度法的计算框图，见图14-32。;;2. BFGS 变尺度法;但其中的校正矩阵的计算公式为 ;　　BFGS法 与 DFP法具有相同性质， 　　这两种方法都是使每次迭代中目标函数值减少， 　　并保持　　的对称正定性， 　　则　　一定逼近海森矩阵的逆矩阵。　;本章作业： 　　 （1）p90：习题14-1 　（2）p91：习题14-2 　　（3）p91：习题14-7 　（4）p91：习题14-11 　　（5）p91：习题14-13;本章结束