004第四讲 无约束优化计算方法.ppt

本次课的主要内容： 一维寻优最优化的概念 极值存在区间的确定 压缩区间计算原理 黄金分割法的由来及其计算步骤 0.618法的程序框图 第四章 无约束优化计算方法 4.1 引言 二、无约束优化问题的一般步骤: 1.从某一初始点 开始迭代计算； 2.各种方法在 领域内产生新点 ； 3.检验点 是否满足最优性条件。 4.2 单变量优化计算方法 即，求优化步长因子 使 沿给定方向达到极小值。 则称为一维搜索的最优步长因子。求 值的方法称为一维搜索优化计算方法或单变量优化计算方法。 一维搜索示意图 当目标函数可以精确求导时,其最优步长因子可以用解析法求得： 单峰函数 4.2.1 搜索区间的确定 所谓搜索区间就是沿 方向找出一个单峰区间 ,即在该区间内的函数变化只有一个峰值,如图所示: 性质：若在 区间内另取一点 ，即 或 将初始迭代 和 定为搜索区间的左端点 ；用一试探步长 沿 方向移动一步 并计算其点的函数值 ，若 则继续增大步长 ，再计算其函数值 ，与前一点的函数值进行比较，直到相临两点的函数值满足 时为止，即形成了高-低-高的一维函数曲线；最后一点就定为搜索区间的右端点 。 中间点 。 若 ，则步长值 改为 ，即取步长 ，继续计算，直到 为止，也可得到高-低-高的一维函数曲线。将左端点值定为终止点 ，而右端点定为起始点 ，中间点定为 。 4.2.2 黄金分割法（0.618法） 黄金分割法适用于 区间上的任何单峰函数求极小值问题。对函数除要求单峰外不作其它要求，甚至可以不连续。因此，这种方法的适应面相当广。 计算函数值 ， ，并比较： 继续循环下去，则一般公式为： 0.618分割法 4.2.2 二次插值法（近似抛物线法） 一、基本思想： 利用三点的函数值来构造一个二次插值多项式，以近似的表达原目标函数，并求这个的多项式的极值点作为原函数极小点的近似值。 二、原理： 在一维搜索中， 与 均为已知，因此目标函数是 的一元函数 现在构造一个二次多项式 逼近目标函数 二次插值法原理图 二次插值程序框图 课下作业 用黄金分割法求函数 的极小点，给定 要求： 1. 手工按黄金分割法计算 2. 至少用一种计算机语言以黄金分割法编程计算 搜索方向与步长的确定 （1）搜索方向的确定 搜索步长的确定 关于 值通常有以下几种取法 （1）加速步长法 （2）最优步长法 最优步长法就是利用一维最优搜索方法来完成每一次迭代，即 此时可以采用0.618方法或二次插值方法来计算 的值。 图4-14 最优步长法的搜索路线 坐标轮换法存在的问题 图4-14 坐标轮换法在各种不同情况下的效能 （a）搜索有效；（b）搜索低效；（c）搜索无效 例 求目标函数 的极小点。 取初始点 解：第一轮迭代： 求最优搜索步长 求最优搜索步长 沿着第二个坐标方向搜索： * 一、无约束优化问题的一般形式: 求其最优解 和 的方法,称为无约束优化计算方法 分 类 非梯度算法 随机搜索法、坐标轮换法、Powell法、单纯形法等 梯度法、共轭梯度法、牛顿法、修正牛顿法、变尺度法等 梯度算法 函数构造不同 迭代终止准则 一、概念 一维搜索方法包括: 分数法(Fibonacci法)、黄金分割法（0.618法）、 牛顿法、二次插值法和三次插值法等。 一维搜索最优化方法步骤： 1、在 方向上确定函数值最小点所在区间 2、求出该区间内