运筹学9一维搜索.pdf

最优化理论与算法 帅天平 北京邮电大学数学系 Email:tpshuai@, Tel Rm:主楼814 §9，一维搜索 TP SHUAI 1 第九章一维搜索 • 一维搜索的基本概念 • 试探法 • 函数逼近法 TP SHUAI 2 9. 一维搜索-概念1 9.1 一维搜索概念 最优化方法的基本结构： 给定初始点x0 (a) 确定搜索方向d ，即按照一定规则，构造f 在x 点处的下降 k k 方向 作为搜索方向; (b)确定步长因子 ，使目标函数值有某种意义下的下降; k (c)令 x = x + d k+1 k k k 若xk+1满足某种终止条件则停止迭代，得到近似最优解xk+1 ， 否则，重复上述步骤。 注意到上述迭代算法中,当方向确定后,涉及到求一个 步长 ,使得目标函数值减小(极小化问题),这就是在一 k 直线上求目标函数的极小点,即极小化f (x d ).这称 k k k 为对变量的一维搜索问题,或称为线搜索. TP SHUAI 3 9. 一维搜索-概念2 设目标函数为f (x),过点x( k )沿方向d ( k )的直线可用点集 来表示: L {x | x  x( k ) d ( k ) ,-   } (9.1.1) 求f (x)在直线L上的极小点就转化为求 ()  f (x( k ) d ( k ) ) (9.1.2) 的极小点. 设()的极小点为 ,称 为沿方向d (k )的步长因子 k k 于是f (x )在直线L 上的极小点为 x (k 1) x (k )  d (k ) (9.1.3) k TP SHUAI 4 9. 一维搜索-概念3 试探法 一维 { 搜索 函数逼近法/插值法 • 一维搜索算法的闭性 假设一维搜索是以x 为起点,沿方向为d 的进行的, 并定义为算法映射M n n n Df 9.1.1 算法映射M : R R  R 定义为 M (x,d ) {y | y x d , 满足 f (x d ) min f (x d )} (9.1.4) 0 TP SHUAI