工程优化方法及应用 第三章(8学时).ppt

在搜索区间取一点x k ，对 f (x) 在 x k 点二阶泰勒展开： 略去高阶项得 两边对 x 求导，得 最后令 ，得 牛顿法的基本思想：牛顿法是一种函数逼近法，其基本思想在极小点附近用函数的二阶泰勒多项式近似代替目标函数，从而求得目标函数的极小点的近似值。 §6 牛顿法 取 作为新的迭代点，继续迭代，直到达到所需精度，这样就得 到了函数 f 的一个驻点 x* 。 在一定条件下（例如 ），这个驻点是极小点。 特别，当 f 是二次函数时，一次迭代就可得到极小点。换言之，牛顿法具有二次终止性。 ——牛顿迭代公式 牛顿法（Newton）计算步骤 步骤1：给定初始点 令 。 步骤2：计算 。 步骤3：若 ，停止， ，否则转步骤4。 步骤4：计算 令 ，转步骤2。 优点：收敛速度快，局部二阶收敛。 缺点：(1)需计算二阶导数，工作量大；(2)对初始点要求高，要求初始点离极小点不能太远，否则有可能使极小化发散或收敛到非极小点；(3)局部收敛。 ——牛顿迭代公式 例 ：试用Newton法求函数 的最优解。 解： Newton法算例 得到近似解 第三章 常用的一维搜索算法 本章主要内容： §1 一维搜索算法概述 §2 单峰函数及其性质 §3 “成功-失败”法（进退法） §4 0.618法（黄金分割法） §5 二分法 §6 牛顿法 §7 插值法 插值法基本思想 对形式复杂的函数，数学运算时不方便 找一个近似的、解析性能好、便于计算的简单函数来代替。 用近似函数的极小点作为原函数极小点的近似 复杂函数 f(x) 极小点x** 简单函数P(x) 极小点x* 一次多项式 二次多项式 三次多项式 注：牛顿法是一种插值方法（一点二次插值法），是利用一点处的函数值、一阶和二阶导数值构造二次插值函数。下面再介绍其他的一些插值方法。 §7 插值法 利用 在搜索区间 的函数值 作出如下的二次插值多项式 它应满足条件 (1) 3点2次插值法的基本原理 (2) (3) §7 .1 三点二次插值法 x2 f(x) P2(x) x1 x3 三个待定系数 从极值的必要条件 求得 根据克莱姆法则，得 按列展开，得 进一步简化 (A) 两式相减（1）-（3）、 （1） -（2）, 可得 从而 所以 (A) 式可简化（B）式 插值极小点公式（A） 注：当x1 ,x2 , x3 等距时，即x2 -x1 = x3-x2 =h时，上面的式子可化简 插值极小点公式（B） 从极小化公式 (A) 到公式 (B)，乘除的运算次数从 14 降为 5。 Step 1. 寻找满足如下条件的点（成功失败法寻找），成为两头大中间小的点： x 1 x 2 x3，f (x1 ) f (x2 ) f (x3 ) Step 2. 计算 fi=f (xi ) ，i=1, 2, 3。 Step 3. 计算 如果 ，停止；否则， 当 ，转步4，否则转步5。 三点二次插值算法步骤 Step 4. 若 ，则令 ，否则令 ， 转步2。 Step 5. 若 ，则令 ，否则令 ，转步2。 x1 x2 x3 f(x) P2(x) x1 x2 x3 x1 x2 x3 x** x* x** 若任取x1 x2 x3 三点，则求出的x* 可能位于区间之外或误差太大。 最初的三个点x1 x2 x3 应构成一个两边高，中间低的“极小化框架” ，即满足f1≥f2