04无约束优化方法.pptVIP

上述算法是针对二次函数的，一般也可以用于非二次函数。为了避免海森矩阵计算，可以采用更加有效的构建共轭向量的方法。 无约束优化方法 可以利用极值定义，将上式变成求以下方程 无约束优化问题是：求n维设计变量 使目标函数 ，而对 没有任何限制条件。 本章介绍的是数值方法。其中最常用的是搜索方法，即给定初始点和搜索方向，沿着该方向寻找最优点。 搜索方向的构成是关键。 无约束极小算法的粗框图 根据构成搜索方向所使用的信息性质的不同，无约束优化方法可以分成两类。一类是利用目标函数的一阶或二阶导数的无约束优化方法，另一类是指利用目标函数值的无约束优化方法。 最速下降法 最速下降法是以负梯度方向作为搜索方向，所以又称梯度法。 根据一元函数极值的必要条件和多元复合函数求导公式，得 相邻两个迭代点上的函数梯度方向互相垂直 求目标函数 的极小点。 解 取初始值 则初始点处函数值及梯度分别为 沿负梯度方向进行一维搜索，有 为一维搜索最佳步长，应满足极值必要条件 从而算出一维搜索最佳步长 及第一次迭代设计点位置和函数值 经过10次迭代，得到最优值 若将上例的目标函数 引入变换 其等值线就由一族椭圆变成一族同心圆， 仍从 即