[自然科学]第三章 无约束优化.ppt

第三章 无约束优化 无约束优化方法是优化技术中最基本的内容。目前无约束优化方法研究的比较成熟，随着计算机技术等的发展，新的方法还在不断出现，因此我们的研究重点仍然是无约束优化方法。 无约束优化问题的一般形式为： 坐标轮换法的基本思想 通过“每次仅对多元函数中的一个变量沿其坐标轴进行一维搜索，其余各变量均固定不动，并一次轮换进行一维搜索的坐标轴，完成第一轮搜索后再进行第二轮搜索，直到找到目标函数在全域上的最小点为止”，以其将一个多维的无约束问题，转化为一系列的一维问题来求解目标函数的最优值。 在坐标轮换中：步长α有三种取法： （1）最优步长法 （2）随机选择α值的方法 在任一方向上选择α的值时， 必须满足函数下降准则 （3）步长加速法 §3.2 梯度法 由梯度的概念可知：函数的梯度方向是函数值增加最快的方向，则负梯度方向 必然是函数值下降最快的方向，所以在优化中采取负梯度矢量作为一维搜索的方向，成为最速下降法，也叫一阶梯度法。（此法属于解析法，既间接求优法） 目标函数在点 的梯度为： 探索方向为： 梯度法的迭代式是： 是函数 f(x) 在迭代点 处的梯度。 最优化步长 有两种求法 任意给定使 沿负梯度方向一维搜索求最优步长 既通过一维极小化 求出 ， 即为迭代步长 0 终止条件可用以下三式中任一种： 梯度法的迭代步骤如下： 1、任选初始迭代点 ，选定收敛精度ε 令K=0 2、确定 点的梯度 并计算梯度模 求 3、判断是否满足迭代终止条件 若满足，则给出最优解 否则转下一步 （4）从 点出发沿负梯度- 方向 作一维搜索，求最优步长 （5）令 返回（2） 例题：试用最速下降法求目标函数 的极小值 设初始点 迭代精度 §3.2 共轭方向法 (变量n20) 按s1任一方向在图中作两条平行线，它们与等值线的切点分别为x(1)和x(2)，连接这两点所构成的矢量 六、共轭方法步骤 １）给定初始点x(0),允许误差、维数，计算f(x)在x(0)处的梯度。 ２）用一维搜索求最优步长的最优解 ３）计算在x(k+1)处函数的梯度 ４）检验是否满足计算精度要求 ５）判断k+1是否等于n,若 ６）计算 ７）求下一步的探索方向 五.共轭梯度的计算方法 * * 求解设计变量: 满足目标函数: X* 为设计变量的最优解。 §3.1 坐标轮换法 （一维优化的综合，变量n10） 坐标轮换法：是无约束方法中最简单的一种多维优化，是一种降维方法。 坐标轮换法流程图.doc 即共轭梯度法：按共轭方向进行搜索，求最优的方法。 三.共轭方向的构造 四.共轭方法的基本原理 *