第2章优化设计-3.pptx

1;　　由前数值迭代法可知，求某目标函数的最优值时，迭代过程每一步的格式都是从某一定点　 出发，沿着某一使目标函数下降的规定方向 搜索，以找出此方向的极小点　　 。这一过程是各种最优化方法的一种基本过程。;;§2.4 多维无约束优化方法;前言;数值迭代法的基本迭代格式为：;前言;;2.4.1 梯度法（最速下降法）;2.4.1 梯度法（最速下降法）;梯度法的终止条件：;梯度法的迭代步骤 ;2.4.1 梯度法（最速下降法）;2.4.1 梯度法（最速下降法）;2.4.1 梯度法（最速下降法）;第一次迭代：;08:27:462016/3/28;08:27:462016/3/28;08:27:462016/3/28;终止迭代，得最优解：;08:27:472016/3/28;08:27:472016/3/28;梯度法的讨论：;步长因子的求解方法：;2.4.1 梯度法（最速下降法）;26; (1)初始点可任选，每次迭代计算量小，存储量少，程序简单。即使从一个不好的初始点出发，开始的几步迭代，目标函数值下降很快，然后慢慢变慢； (2) 任意相邻两点的搜索方向正交，它的迭代路径为绕到逼近极小点。当迭代点靠近极小点附近，步长变得很小，收敛速度越来越慢，这是梯度法的较大缺点。;例4.6 用梯度法求目标函数 的最优解。 取初始点 ;2.4.1 梯度法（最速下降法）;第一次迭代：;08:27:492016/3/28;2.4.2 牛顿法;该算法的基本思路：;34;35;08:27:512016/3/28;08:27:512016/3/28;08:27:512016/3/28;08:27:512016/3/28;08:27:522016/3/28;08:27:522016/3/28;08:27:522016/3/28;43;08:27:572016/3/28;45;46;47;48;08:27:572016/3/28;50;51;08:27:572016/3/28;（2）构造的 应逐渐逼近 此时应满足拟牛顿条件;08:27:572016/3/28;08:27:572016/3/28;56;08:27:572016/3/28;08:27:572016/3/28;08:27:572016/3/28;60;08:27:572016/3/28;08:27:572016/3/28;08:27:572016/3/28;08:27:572016/3/28;08:27:572016/3/28;08:27:572016/3/28;08:27:572016/3/28;08:27:572016/3/28;梯度法：;08:27:572016/3/28;71;72;现以二维优化问题为例，说明该法的搜索过程。;74;　　根据上述原理，对于第k 轮计算，坐标轮换法的迭代计算公式为： ;;　　关于坐标轮换法的迭代步长，常用如下两种取法： 　(1) 最优步长； 　(2) 加速步长。 　　即在每一维，先选择一个初始步长，若沿该维正向第一步搜索成功(即该点函数搜索时值下降)，则以倍增的步长继续沿该维向前搜索，步长的序列为;78;79;80;81;82;83;　　坐标轮换法的特点： 计算简单，概念清楚； 搜索 线路较长，计算效率低； 只能用于低维（n10）优化问题的求解。 效能很大程度上取决于目标函数的性态。;85;86;08:50:212016/3/28;08:56:412016/3/28;08:56:472016/3/28;09:11:062016/3/28;09:14:162016/3/28;09:14:162016/3/28;09:19:172016/3/28;09:14:162016/3/28;09:14:472016/3/28;09:16:042016/3/28;08:27:582016/3/28;08:27:582016/3/28;08:27:582016/3/28;08:27:582016/3/28;09:23:512016/3/28;09:24:572016/3/28;09:21:462016/3/28;08:27:582016/3/28;08:27:582016/3/28;08:27:582016/3/28;2.4.5 Powell法（鲍威尔法）;2.4.5 Powell法（鲍威尔法）;2.4.5 Powell法（鲍威尔法）;2.4.5 Powell法（鲍威尔法）;2.4.5 Powell法（鲍威尔法）;2.4.5 Powell法（鲍威尔法）;08:27:582016/3/28;08:27: