线性规划无约束规划.pptVIP

* 4. 无约束规划 无约束规划建模——引例 无约束规划模型 无约束规划的示意图 无约束规划的性质 无约束规划重要算法 用MATLAB解无约束规划 引例1： 某城市要选定一个供应中心(供电、供水、公天然气、网络接入等)的位置，该中心向城市中由固定位置的m个用户提供服务。问如何确定这个中心的位置才是最合理的？ 解 设用户位置为(ai, bi)(i=1,2,...,m)已知，而供应中心的位置是(x1, x2)；假设运输线路不受道路影响，只考虑直线距离，则可建立求总距离最短的数学模型为： 其中：c——运价(元/吨公里)；wi——第i个用户的需求量. 若进一步考虑各单位的用量wi不同，而运价c按距离计算，则可建立求总总费用最小的数学模型为： “定位问题”——厂址选择等 引例2：在某些实际问题中，往往要求决策变量x1, x2, ..., xn满足(或近似满足)某些平衡条件，它表现为要求x1, x2, ..., xn满足方程组 即要求均方误差最小——最小二乘问题，包括线性最小二乘和非线性最小二乘问题，在数学建模中有非常重要的应用。 可转化为求解问题： “最小二乘问题”——解方程组 无约束规划模型 标准形式： 转化： 等高线 5 3 1 无约束规划的示意图 多局部极小 唯一极小 (全局极小) 无约束规划的性质 梯度? ?列向量 梯度的特点：1) 函数f(X)在X处增长最快的方向，负梯度方向是函数f(X)在X处下降最快的方向；2)梯度的模是函数最快的变化率; 3) 梯度为零是驻点，极值点是驻点，驻点不一定是极值点。 海森(Hessian)矩阵? ?方、对称矩阵 无约束规划的性质 梯度为0向量的点可能是局部最优点，需要用海森矩阵类型进一步判定； 凸函数的驻点必是全局最优点； 补充1) f(X)是凸函数??对任意定义域D中的元素X、Y和任意的数0≤a≤1，有： f(aX＋(1－a)Y) ≤af(X)+ (1－a) f(Y) 补充2) 对称矩阵的分类 判别方法 定义 类别 －A半正定 －A正定 |A|=0;主子式≥ 0 主子式都0 其它 特征值≤0(有0) 特征值0 特征值≥ 0(有0) 特征值0 不定 半负定 A负定 A半正定 A正定 无约束规划的基本算法 基本思路：先求驻点，在判定是否是极值点； 基本方法——迭代算法: 先给定极小点的估计值(初始值), 寻求使函数值下降一个方向, 沿此方向找到一个更好的估计值, 这样往复迭代, 直到某一点不能找到下降方向则终止算法. 迭代算法的基本框架： (1) 选定初始点X0，令k＝0； (2)在Xk处选定下降方向Sk(若找不到则终止算法); (3) 从Xk出发沿Sk一维搜索, 找到Xk+1= Xk +λkSk , 使得 f(Xk+1)f(Xk)； (4) 从k=k+1, 转(2). 无约束规划的基本算法 一维搜索基本原则：1) 最优原则： 2) 可接受点原则： 一维搜索方法： 0.618法、插值法等 下降方向：与梯度点乘为负值的方向 无约束规划的基本算法 下降方向选择方法——算法分类 1. 最速下降法——梯度法 2. 共轭梯度法 (包含多种方法)——梯度法的修正 3. 牛顿法 牛顿法特点：二次函数1次收敛；单步迭代计算量大，且要求海森矩阵可逆。 无约束规划的基本算法 3. 拟牛顿法 拟牛顿法特点：较梯度法收敛速度快速，较牛顿法稳定且计算量小。 4. 信赖域算法——对大型问题稳定性好，有成功的应用 无约束规划的基本算法 两个著名的拟牛顿迭代公式: Matlab求解无约束规划问题 X=fminunc(‘F’,X0) X=fminsearch(‘F’,X0) Min F(X) 多元无约束极小 x=fminbnd(‘F’,x1,x2) Min F(x) s.t.x1xx2 一元函数极小 基本函数名 模 型 类 型 [X,FVAL,EXITFLAG,OUTPUT] = fminbnd(FUN,x1,x2,OPTIONS,P1,P2,...) [X,FVAL,EXITFLAG,OUTPUT,GRAD,HESSIAN] = fminunc(FUN,X0,OPTIONS,P1,P2,...) [X,FVAL,EXITFLAG,OUTPUT] = fminsearch (FUN, X0, OPTIONS, P1,P2,...) 完整的调用格式： 输出变量含义 包含优化结果信息的输出结构. Iterations: 迭代次数 Algorithm: 所采用的算法 FuncCount:计算函数值次数 o