直接方法9材料.pptVIP

x1 x2 x(1) x(2) x(3) x(4) x(6) x(8) x(7) 例如，已知两维变量函数f(x)的等值线，内圈比外圈函数值低。 极小化f(x)时得到的单纯形序列 2 1 3 4 7 8 5 6 10 9 11 12 x1 x2 步 骤 第一次迭代 第二次迭代 第三次迭代 Powell算法的基本思想 整个过程分成若干个循环，每个循环有n+1个 一维搜索，即先经过n个线性无关方向的一维搜索， 把所得的点与此循环开始点连接起来，再沿着连线 的方向进行第n+1次一维搜索，然后用连线的方向 代替原来n个方向中的一个，再开始下一个循环。 步骤： 例 第一轮迭代： 第二轮迭代： 第三轮迭代： Powell算法的二次终止性 第一轮迭代： 第二轮迭代： 这三个搜索方向的第一个分量都是0，所以沿 这些方向进行一维搜索得到的点的第一个分量将 保持为1/2，这样就达不到真正的最优解，原因是 d(2,1)，d(2,2)，d(2,3)线性相关。 正交程度与共轭程度 正交程度 考虑特殊正定二次函数 考虑一般正定二次函数 则正交方向对应于共轭方向 改进的Powell法步骤： 单纯形法 单纯形：n维空间En中具有n+1个顶点的凸多面体。 基本思想：给定En中的一个单纯形，求出n+1个顶点 上的函数值，确定出有最大函数值的点（最高点）和 最小函数值的点（最低点），通过反射、扩展、压缩 等方法，求出一个较好点，用它取代最高点，构成新 的单纯形，或者通过向最低点收缩形成新的单纯形。 以极小化二元函数f(x1,x2)为例 x1 x2 x(1) x(2) x(3) x(4) x1 x2 x(1) x(2) x(3) x(4) x(5) x1 x2 x(1) x(2) x(3) x(4) x1 x2 x(1) x(2) x(3) x(4) x(6) 第11章 无约束最优化的直接方法 坐标轮换法(Cyclic Coordinate Method) 基本思想： 步 骤： 这种方法简单、直观，但对于山脊形函数或自变量间有大的交互作用不适用。 最优点 终点 x2 x1 x(1) x(0) x(2) 模式搜索法（步长加速法） 探测移动： 依次沿n个坐标轴进行，用于确定新的基 点和有利于函数值下降的方向。 模式移动： 沿相邻两个基点连线方向进行，试图 使函数值更快减少。 探测性搜索： 模式搜索 步骤： 特点：收敛速度比较慢，但编制程序比较简单，对变量不多的问题可以使用，而且确实是一种可靠的方法，另外，此法可用于求解非线性目标规划问题。 Rosenbrock 算法 包括探测阶段和构造搜索方向两部分。 探测阶段： 从一点出发，依次沿n个单位正交方向进行探测移动， 一轮探测之后，再从第一个方向开始继续探测，经过 若干轮探测移动，完成一个探测阶段。 转轴： 构造一组新的单位正交方向。 1．探测阶段 2．构造新的搜索方向 步骤: 例：用Rosenbrock方法求解 第一次迭代 第二次迭代 Powell方法（方向加速法） xb xa x1 x0 S0 S0 x* S1 定理：