最优化方法第二堂课分析.ppt

最优化方法;2.1 回顾： 一、最优控制问题 50年代前： 古典化——工程试探法 解析法 使系统误差平方和（ISE）最小 提法A： Min ;提法B： Min ;特点： 适用于多变量、非线形、时变系统 初始条件可变 可满足多个目标函数要求，并可有多余约束 可计算求解（数值法）;可控性举例：;可控性举例：;二、 一维搜索 （一）．搜索算法概述 1．问题：一般要求;2．基本思想：通过逐次逼近，求最优解或近似最优解;3．原则 ①下降性： f(x0)≥f(x1)≥┅ f(xk)≥┅ ②收敛性：{xk}最终收敛到定义域内某极限点（最优解）（满足精度） 4．步骤 ①选定初始点xk，令k=0 ②如果已得xk，且xk不是最优解，则选定搜索方向pk ③从xk出发，沿pk求αk，以产生xk+1=xk+αkpk ④新点是否极小？是，停止；否，令k=k+1，返回②。;5．确定步长αk的方法 ① αk取常数（αk=1），简单，不保证f(xk)下降 ②可接受点算法：只要使f(xk)下降，取αk任意步长 ③一维搜索：沿搜索方向使目标函数值下降得最多， αk ：min f(xk+αkpk) 即求一个以αk为变量的一元函数的极小值问题。;6．一维搜索的判别准则 ;7．原理 设f（x）在[a，b]是下单峰函数，在[a，b]内任取两点;二．Fibonacci法(书P14) [a，b]一定，计算n次，最多将多长（设 )的原始区间缩短为1？;若;=a+;设已迭代i-1次，第i次，有n-i+1个试点;2.2 凸集、凸函数和凸规划;2.2 凸集、凸函数和凸规划(续);2.2 凸集、凸函数和凸规划(续);2.2 凸集、凸函数和凸规划(续);2.2 凸集、凸函数和凸规划(续);2.2 凸集、凸函数和凸规划(续);2.2 凸集、凸函数和凸规划(续);2.2 凸集、凸函数和凸规划(续);2.2 凸集、凸函数和凸规划(续);2.2 凸集、凸函数和凸规划(续);2.2 凸集、凸函数和凸规划(续);2.2 凸集、凸函数和凸规划(续);2.2 凸集、凸函数和凸规划(续);2.2 凸集、凸函数和凸规划(续);2.3 多面体、极点、极方向;2) 多面体的极点（顶点）： x?S，不存在 S 中的另外两个点x(1)和x(2)，及 λ?(0,1)，使 x = λx(1)+(1-λ)x(2). 3) 方向：x?S , d?Rn , d ? 0 及 λ 0 , 总有 x + λd ? S. d(1) = λd(2) ( λ0) 时，称 d(1)和d(2)同方向。 4) 极方向：方向 d 不能表示为两个不同方向的组合 ( d = d(1)+d(2) ) .;2.3 多面体、极点、极方向;2.3 多面体、极点、极方向;考虑多面体 S = { x?Rn?Ax = b , x≥0 }，其中 3 2 1 0 0 65 A = 2 1 0 1 0 b = 40 0 3 0 0 1 75 即 3 x1 + 2 x2 + x3 = 65 2 x1 + x2 + x4 = 40 3 x2 + x5 = 75 x1 , x2 , x3 , x4 , x5 ≥ 0 ; 3 2 1 0 0 A = [ P1 , P2 , P3 , P4 , P5 ] = 2 1 0 1 0 0 3 0 0 1 A矩阵包含以下10个3×3的子矩阵： B1=[p1 ，p2 ，p3] B2=[p1 ，p2 ，p4] B3=[p1 ，p2 ，p5] B4=[p1 ，p3 ，p4] B5=[p1 ，p3 ，p5] B6=[p1 ，p4 ，p5] B7=[p2 ，p3 ，p4] B8=[p2 ，p3 ，p5] B9=[p2 ，p4 ，p5] B10=[p3 ，p4 ，p5]? ; 其中?B4?= 0，因而B4不能构成极点和极方向。其余均为非奇异方阵，因此该问题共有9个可构成极点、极方向的子矩阵，我们称之为基。 对于基B3=[p1 ，p2 ，p5]，令x3 = 0， x4 = 0，在等式约束中令x3 = 0，x4 = 0，解线性方程组：