第四章+无约束优化计算方法(new).ppt

沿负梯度方向进行一维搜索，有 为一维搜索最佳步长，应满足极值必要条件 例4－1 求目标函数 的极小点。 解 取初始点 则初始点处函数值及梯度分别为 算出一维搜索最佳步长 第一次迭代设计点位置和函数值 继续作下去，经10次迭代后，得到最优解 这个问题的目标函数的等值线为一簇椭圆,迭代点从 走的是一段锯齿形路线，见图。 将上例中目标函数 引入变换 其等值线由椭圆变成一簇同心圆。 仍从 即 出发进行最速下降法寻优。此时： 沿负梯度方向进行一维搜索： 则函数f(X)变为： y1=x1, y2=5x2 β 为一维搜索最佳步长，可由极值条件： 由 从而算得一步计算后设计点的位置及其目标函数： 经变换后，只需一次迭代，就可找到最优解。 这是因为经过尺度变换： 等值线由椭圆变成圆。 共轭梯度法 共轭梯度法中每一个共轭向量都是依赖于迭代点处的负梯度而构造出来。 从x(k)出发，沿负梯度方向作一维搜索: 设与sk共轭的下一个方向sk+1由sk和点xk+1的负梯度的线形组合构成，即： 共轭条件： 则： 解得