第六章 非线性规划 多维无约束非线性优化.ppt

变尺度算法 DFP算法 BFGS算法 变尺度算法 迭代步骤 变尺度算法 例1 利用变尺度算法求解无约束非线性规划问题 变尺度算法 变尺度算法 变尺度算法 变尺度算法和共轭梯度法的统一 多维无约束优化的求解函数fminunc 概述 MATLAB优化工具箱中提供了多维无约束非线性优化的求解函数fminunc，在MATLAB的该求解函数中运用到了我们前面提到的多种算法，例如利用梯度信息或者Hessian矩阵信息的迭代算法，或者如果用户不提供梯度信息的话，可能使用到有限差分形式去估计相应值的方法。在下面函数使用过程中的算法和参数的设置时，将会重点讲述这些问题 调用格式： x = fminunc(fun,x0) x = fminunc(fun,x0,options) x = fminunc(problem) [x,fval] = fminunc(...) [x,fval,exitflag] = fminunc(...) [x,fval,exitflag,output] = fminunc(...) [x,fval,exitflag,output,grad] = fminunc(...) [x,fval,exitflag,output,grad,hessian] = fminunc(...) 多维无约束优化的求解函数fminunc 输入参数和输出参数 多维无约束优化的求解函数fminunc 多维无约束优化的求解函数fminunc fminunc的输出参数主要包括x、fval、grad、hessian、exitflag、output，其中grad和hessian分 别返回x处的梯度和Hessian矩阵信息。算法终止时状态指示结构变量exitflag取值代表的物理意义和输出参数output结构变量中所包含的信息分别如表所示： 多维无约束优化的求解函数fminunc 控制参数设置方法（打开word文档即可查看） 命令详解 x = fminunc(fun,x0) 从初始点x0开始寻找目标函数fun的局部极小点x，x0可以是标量、向量或矩阵 x = fminunc(fun,x0,options) 在求解问题的同时用options指定的优化参数进行目标函数的最小化 [x,fval] = fminunc(...) 返回最优解x处的目标函数值fval [x,fval,exitflag] = fminunc(...) 在优化计算结束之时返回exitflag值，描述函数计算的退出条件 [x,fval,exitflag,output] = fminunc(...) 在优化计算结束之时返回返回结构变量output [x,fval,exitflag,output,grad] = fminunc(...) 在优化计算结束之时返回解x处的梯度 [x,fval,exitflag,output,grad,hessian] = fminunc(...) 在优化计算结束之时返回解x处的Hessian矩阵 多维无约束优化的求解函数fminunc fminunc可以根据用户选择的不同参数，选用不同的优化方法 大型优化算法 若用户在fun函数中提供梯度信息，则默认时函数将选择大型优化算法，该 算法是基于内部映射牛顿法的子空间置信域法。计算中的每一次迭代涉及用 PCG法求解大型线性系统得到的近似解。 中型优化算法 当不使用大型规模算法，即通过optimset将options.LargeScale设置为off时， fminunc在优化过程中选用BFGS拟牛顿法，即通过BFGS校正来更新对目标函数 的Hessian矩阵的估计值。 我们可以将参数HessUpdate设置为dfp使得fminunc采用DFP校正来更新对目标函数的Hessian矩阵的逆的估计；将HessUpdate设置为steepdesc同时将LargeScale设置为off，则此时使用最速下降法，但是一般不推荐使用最速下降法。 在此强调一下，当使用大型规模算法时，必须在定义目标函数的M-函数文件中给出梯度向量的解析形式，同时设置控制参数GradObj的值为on，当没有设置控制参数LargeScale为off，且用户没有提供梯度向量的计算公式时，MATLAB将返回一个警告信息。 多维无约束优化的求解函数fminunc fminunc在求解无约束最