第5章 无约束优化及非线性优化.pptVIP

其中T(X,M)称为罚函数，M称为罚因子，带M的项称为罚项，这里的罚函数只对不满足约束条件的点实行惩罚：当 时，满足各 ，故罚项=0，不受惩罚．当 时，必有 的约束条件，故罚项0，要受惩罚． SUTM外点法 罚函数法的缺点是：每个近似最优解Xk往往不是容许解，而只能近似满足约束，在实际问题中这种结果可能不能使用；在解一系列无约束问题中，计算量太大，特别是随着Mk的增大，可能导致错误． 1、任意给定初始点X0，取M11，给定允许误差 ，令k=1； 2、求无约束极值问题 的最优解，设为Xk=X(Mk)，即 ； 3、若存在 ，使 ，则取MkM( )令k=k+1返回（2），否则，停止迭代．得最优解 . 计算时也可将收敛性判别准则 改为 . SUTM外点法(罚函数法)的迭代步骤 SUTM内点法（障碍函数法） 内点法的迭代步骤 * 无约束最优化及非线性优化 数学建模与数学实验 实验目的 实验内容 2、掌握用数学软件包求解无约束最优化问题。 1、了解无约束最优化基本算法。 1、无约束优化基本思想及基本算法。 4、实验作业。 3、用MATLAB求解无约束优化问题。 2、MATLAB优化工具箱简介 无约束最优化问题 求解无约束最优化问题的的基本思想 *无约束最优化问题的基本算法 返回 标准形式： 求解无约束最优化问题的基本思想 求解的基本思想 ( 以二元函数为例 ) 5 3 1 连续可微 多局部极小 唯一极小 (全局极小) 搜索过程 最优点 (1 1) 初始点 (-1 1) -1 1 4.00 -0.79 0.58 3.39 -0.53 0.23 2.60 -0.18 0.00 1.50 0.09 -0.03 0.98 0.37 0.11 0.47 0.59 0.33 0.20 0.80 0.63 0.05 0.95 0.90 0.003 0.99 0.99 1E-4 0.999 0.998 1E-5 0.9997 0.9998 1E-8 返回 无约束优化问题的基本算法 最速下降法是一种最基本的算法，它在最优化方法中占有重要地位.最速下降法的优点是工作量小，存储变量较少,初始点要求不高；缺点是收敛慢，最速下降法适用于寻优过程的前期迭代或作为间插步骤，当接近极值点时，宜选用别种收敛快的算法. 1．最速下降法（共轭梯度法）算法步骤： 2．牛顿法算法步骤： 如果f是对称正定矩阵A的二次函数，则用牛顿法经过一次迭代 就可达到最优点,如不是二次函数，则牛顿法不能一步达到极值点， 但由于这种函数在极值点附近和二次函数很近似,因此牛顿法的收 敛速度还是很快的. 牛顿法的收敛速度虽然较快，但要求Hessian矩阵要可逆，要计算二阶导数和逆矩阵，就加大了计算机计算量和存储量. 3．拟牛顿法 返回 Matlab优化工具箱简介 1.MATLAB求解优化问题的主要函数 2. 优化函数的输入变量 使用优化函数或优化工具箱中其它优化函数时, 输入变量见下表: 3. 优化函数的输出变量下表: 4．控制参数options的设置 (3) MaxIter: 允许进行迭代的最大次数,取值为正整数. Options中常用的几个参数的名称、含义、取值如下: (1) Display: 显示水平.取值为’off’时,不显示输出; 取值为’iter’时,显示每次迭代的信息;取值为’final’时,显示最终结果.默认值为’final’. (2) MaxFunEvals: 允许进行函数评价的最大次数,取值为正整数. 例：opts=optimset(‘Display’,’iter’,’TolFun’,1e-8) 该语句创建一个称为opts的优化选项结构,其中显示参数设为’iter’, TolFun参数设为1e-8. 控制参数options可以通过函数optimset创建或修改。命令的格式如下： (1) options=optimset(‘optimfun’) 创建一个含有所有参数名,并与优化函数optimfun相关的默认值的选项结构options. （2）options=optimset(‘param1’,value1,’param2’,value2,...) 创建一个名称为options的优化选项参数,其中指定的参数具有指定