第5讲无约束优化解析.ppt

* 无约束最优化 数学建模与数学实验 实验目的 实验内容 2.掌握用数学软件包求解无约束最优化问题. 1.无约束最优化基本算法. 1. 无约束优化基本思想及基本算法. 4. 实验作业. 3. 用MATLAB求解无约束优化问题. 2. MATLAB优化工具箱简介. 无约束最优化问题 求解无约束最优化问题的的基本思想 *无约束最优化问题的基本算法 返回 标准形式： 求解无约束最优化问题的基本思想 求解的基本思想 ( 以二元函数为例 ) 5 3 1 连续可微 多局部极小 唯一极小 (全局极小) 搜索过程 最优点 (1 1) 初始点 (-1 1) -1 1 4.00 -0.79 0.58 3.39 -0.53 0.23 2.60 -0.18 0.00 1.50 0.09 -0.03 0.98 0.37 0.11 0.47 0.59 0.33 0.20 0.80 0.63 0.05 0.95 0.90 0.003 0.99 0.99 1E-4 0.999 0.998 1E-5 0.9997 0.9998 1E-8 返回 无约束优化问题的基本算法 最速下降法是一种最基本的算法，它在最优化方法中占有重要地位.最速下降法的优点是工作量小，存储变量较少,初始点要求不高；缺点是收敛慢，最速下降法适用于寻优过程的前期迭代或作为间插步骤，当接近极值点时，宜选用别种收敛快的算法. 1．最速下降法（共轭梯度法）算法步骤： 2．牛顿法算法步骤： 如果f是对称正定矩阵A的二次函数，则用牛顿法，经过一次迭代 就可达到最优点,如不是二次函数，则牛顿法不能一步达到极值点， 但由于这种函数在极值点附近和二次函数很近似,因此牛顿法的收 敛速度还是很快的. 牛顿法的收敛速度虽然较快，但要求黑塞矩阵可逆，要计算二阶导数和逆矩阵，就加大了计算机的计算量和存储量. 3．拟牛顿法 返回 MATLAB优化工具箱简介 1.MATLAB求解优化问题的主要函数 2.优化函数的输入变量 使用优化函数或优化工具箱中其他优化函数时, 输入变量见下表: 3.优化函数的输出变量见下表: 4．控制参数选项的设置 (3) MaxIter: 允许进行迭代的最大次数,取值为正整数. 选项中常用的几个参数的名称、含义、取值如下: (1) 陈列: 显示水平.取值为off时,不显示输出; 取值为iter时,显示每次迭代的信息;取值为final时,显示最终结果.默认值为final. (2) MaxFunEvals: 允许进行函数评价的最大次数,取值为正整数. 例：opts=optimset(Display, iter, TolFun,1e-8) 该语句创建一个称为选择的优化选项结构,其中显示参数设为iter, TolFun参数设为1e-8. 控制参数选项可以通过函数optimset创建或修改.命令的格式如下： (1) options=optimset(optimfun) 创建一个含有所有参数名,并与优化函数optimfun相关的默认值的选项结构. （2）options=optimset(param1,value1,param2,value2,...) 创建一个名称为选项的优化选项参数,其中指定的参数具有指定值,所有未指定的参数取默认值. (3) options= optimset(oldops, param1,value1,param2,value2,...) 创建名称为oldops的参数的拷贝,用指定的参数值修改oldops中相应的参数. 返回 用MATLAB解无约束优化问题 其中等式（3）、（4）、（5）的右边可选用（1）或（2）的等式右边. 函数fminbnd的算法基于黄金分割法和二次插值法，它要求目标函数必须是连续函数，并可能只给出局部最优解. 常用格式如下： （1）x= fminbnd (fun,x1,x2) （2）x= fminbnd (fun,x1,x2 ，options) （3）[x，fval]= fminbnd（…） （4）[x，fval，exitflag]= fminbnd（…） （5）[x，fval，exitflag，output]= fminbnd（…） MATLAB(wliti1) 主程序为wliti1.m: f=2*exp(-x).*sin(x); fplot(f,[0,8]); %作图语句 [xmin,ymin]=fminbnd (f, 0,8) f1=-2*exp(-x).*sin (x); [xmax,ymax]=fminbnd (f1, 0,8) 例2 有边长为