matlab在求解优化问题中的应用.ppt

Matlab;本 讲 内 容;一、最优化理论概述;无约束问题一般形式：;例 数据拟合问题;线性规划问题的标准型：;非标准型线性规划问题过渡到标准型线性规划问题的处理方法：;例 二次规划问题;例 最小二乘问题;（二）最优化问题的实现; Matlab实现; 使用Matlab的优化工具箱时，由于优化函数要求目标函数和约束条件满足一定的格式，所以需要用户在进行模型输入时注意以下几个问题：;二、Matlab优化工具箱简介;2. 最小二乘问题; 中型问题方法演示函数;（二）优化函数的变量;变量名;变量名;2. 输出变量;3. 优化参数;参数名;（三）参数设置;参数名;2. optimset 函数;options=optimset ( oldopts,newopts );options=optimset ( with no input arguments );options=optimset(Display,iter,TolFun,1e-8);optnew=optimset(options,TolX,1e-4);options=optimset(fminbnd);3. optimget 函数;val=optimget(options,Display);（四）模型输入时需要注意的问题; 优化工具箱要求非线性不等式约束的形式为Ci(x) ≤0,通过对不等式取负可以达到使大于零的约束形式变为小于零的不等式约束形式的目的，如 Ci(x) ≥0形式的约束等价于-Ci(x) ≤0 ；Ci(x)≥b形式的约束等价于-Ci(x) +b≤0。;（五）＠函数;fhandle=@humps;;（六）优化算法介绍;这类问题的一般数学模型为：;2. 无约束优化问题;多项式近似; 二次内插的一般问题是，在定义域空间给定三个点x1，x2，x3和它们所对应的函数值 f (x1)，f (x2)，f (x3)，由二阶匹配得出最小值点如下：; 三次插值的基本思想和二次插值一致，它是用4个已知点构造一个三次多项式来逼近目标函数，同时以三次多项式的极小点作为目标函数极小点的近似。; 如果导数容易求得，一般来说首先考虑使用三次插值法，因为它具有较高的效率，对于只需要计算函数值的方法中，二次插值是一个很好的方法，它的收敛速度较快，在极小点所在的区间较小时尤其如此。黄金分割法是一种十分稳定的方法，并且计算简单。由于上述原因， Matlab优化工具箱中较多地使用二次插值法、三次插值法以及二次三次混合插值法和黄金分割法。;3. 拟Newton法实现;线性（一维）搜索过程;4. 最小二乘优化; 最小二乘问题的梯度和 Hessian 矩阵具有特殊的结构，定义 r (x)的 Jacobian 矩阵为J(x)，则 F (x)的梯度和F(x) 的Hessian 矩阵定义为：; 当Q(x)很大时，Gauss—Newton法很难得到问题的解，在这种情况下，Levenberg—Marquadt方法显得更有效。;5. 非线性最小二乘实现; 这种实现方法在大量非线性问题中得到了成功的应用，并被证明比Gauss—Newton法具有更好的鲁棒性，比无约束条件方法具有更好的迭代效率。在使用lsqnonlin函数时，函数所使用的默认算法是Levenberg—Marquadt法。当options(5)=1时，使用Gauss—Newton法。;6. 约束优化;这个问题可以通过任何求解二次规划问题的算法求解。;7. SQP实现; 此算法要求有一个合适的初始值，如果由逐次二次规划方法得到的当前计算点是不合适的，则通过求解下述线性规划问题可以得到合适的计算点：;三、无约束优化问题;数学模型;2. Matlab工具箱中的基本函数;x=fminbnd( fun，x1，x2，options );[x，fval ]=fminbnd( … );output结构值;;;例10 带参数优化问题。;3. 应用实例分析;[x,fval,exitflag,output]=fminbnd(@ex11,0,1.5);（二）无约束非线性规划问题;算法介绍; 直接搜索法;Hessian矩阵的修正;一维搜索; 缺省时的一维搜索算法，当options.LineSearchType 设置为‘quadcubic’时，将采用二次和三次混合插值法。将options.LineSearchType 设置为‘cubicpoly’时，将采用三次插值法。第二种方法需要的目标函数计算次数更少，但梯度的计算次数更多。这样，如果提供了梯度信息，或者能