优化-马昌凤-第三章作业.docx

. . . 最优化方法与其 Matlab 程序设计 习题作业暨实验报告 学院：数学与信息科学学院 班级： 12 级信计一班 ：明 学号： 1201214049 1 / 8 . . . 2 / 8 . . . 第三章 最速下降法和牛顿法 一、上机问题与求解过程 1、用最速下降法求 f ( x1 , x2 ) 3x12 2x 4x1 6x2 的极小值。 解： 仿照书上编写最速下降法程序如下： function [x,val,k]=grad(fun,gfun,x0) %功能：用最速下降法求解无约束化问题： min f(x) %输入： x0 是初始点， fun,gfun 分别是目标函数和梯度 %输出： x,val 分别是近似嘴有点和最优值， k 是迭代次数 maxk=5000; rho=0.5;sigma=0.4; %一开始选择时选择的 k=0;epsilon=1e-5; while (kmaxk) g=feval(gfun,x0); %计算梯度 d=-g; %计算搜索方向 if (norm(d)epsilon), m=0;mk=0; while (m20) %Armijo 搜索 rho 和 sibma 选择的数据不够合理，此处我参照书上的数据编写数据 break ; end if (feval(fun,x0+rho^m*d)feval(fun,x0)+sigma*rho^m*g*d) mk=m; %直接利用 Armijo end m=m+1; break ; 搜索公式 , 一开始的时候没有记住公式编写出现错误 end x0=x0+rho^mk*d; k=k+1; end x=x0; val=feval(fun,x0) %求得每一个的函数值 然后仿照书上建立两个目标函数和梯度的 M文件： 3 / 8 2. . . 2 function f=fun(x) f=3*x(1)^2+2*x(2)^2-4*x(1)-6*x(2); function g=gfun(x) g=[6*x(1)-4,4*x(2)-6]; 选 取 初 始 点 为 [0,0] ， 调 用 函 数 程 序， 得 出 最 小 极 值 点 为 [0. 6667,1.500] ，极小值为 5.8333 ，在界面框中输入的程序如下： [x,val,k]=grad(fun,gfun,x0) val = -5.8333 x= x 0.6667 1.5000 val = -5.8333 k= k 10 从结果可以看出迭代次数为 10 次， 如果选取不同的初值点则迭代次 数不一样，但是极小值相同。 2、分别用牛顿法和阻尼牛顿法求解函数 小点。 解： 牛顿法： 改编书上的阻尼牛顿法，将 Armijo 顿法，其中程序为： function [x,val,k]=netwn(fun,gfun,Hess,x0) %功能：用牛顿法求解无约束问题： min f(x) %输入： x0 是初始点， fun,gfun,Hess 分别是求 f ( x1 , x2 ) 4x1 x 8x1 4x2 的极 线性搜索公式去掉，改编为牛 % 目标函数值，梯度， Hesse 矩阵函数 %输出： x,val 分别是近似点最优解和最优质， k 是迭代次数 maxk=500; %因为是牛顿法，感觉不能简单直接找出最正确数值，所以需要加大迭代次数 k=0;epsilon=1e-5; while (kmaxk) gk=feval(gfun,x0); Gk=feval(Hess,x0); if (norm(gk)epsilon), dk=-Gk\gk; %计算梯度 %计算 Hess 矩阵 break ; end %计算搜索方向 x0=x0+dk; %直接根据前面的算法框架，得出上面迭代步骤 k=k+1; end %只是将阻尼牛顿法，简单的删去 Armijo 搜索公式 4 / 8 . . . x=x0; val=feval(fun,x); 然后仿照书上建立两个目标函数和梯度的 M文件： function f=fun(x) f=4*x(1)^2+x(2)^2-8*x