数值最优化实验一.docVIP

实验一 一、实验目的： 掌握Armijo线性搜索法的思想方法及程序编写。 实验要求： 给出Armijo类线性搜索法的Matlab程序，输出变量应包括算法是否确定满足条件的步长，步长，所需的函数值计算次数，梯度值计算次数，内迭代次数等 实验内容 编写Armijo非精确线性搜索的Matlab程序，并分别求出下面问题的满足Armijo搜索的步长。方向采用最速下降方向 1、Armijio非精确线性搜索的Matlab程序（牛顿修正法） badsc.m文件，如下代码 function[f,df,d]=badsc(n,m,x) fvec=zeros(m,1);J=zeros(m,n); fvec=[x(1)-10^6;x(2)-2*10^(-6);x(1)*x(2)-2]; J=[1 0;0 1;x(2) x(1)]; f=fvec*fvec; df=2*J*fvec; hessian=[2+2*x(2)^2,4*x(1)*x(2)-4;4*x(1)*x(2)-4,2+2*x(1)^2]; d=-inv(hessian)*df; 2、在MATLAB命令窗口中输入以下代码： x=[1;1];n=2;m=3; k=0;%记录迭代次数 w=0.9;p=0.5;a=1;%初始步长 [f,df,d] = badsc(n,m,x); t=d;y=f; temp=w*df*t;xtemp=x+a*t; [f1,df1,d] = badsc(n,m,xtemp); if f1=y+a*temp a=a; k=k+1; else a=w; f1=y+a*temp; k=k+1; end while f1y+a*temp; a=a*p; xtemp=x+a*t; [f1,df1,d] = badsc(n,m,xtemp); k=k+1; end h=a step=k 程序2： function [flag,h,grad,stepsize]=armijo(n,m,x,b) % flag 标记作用，h表示最终的步长，grad表示梯度，stepsize表示迭代次数 % xn=xc+a*d xc已知，a已知，d已知,b已知 % fn=fx+a*sigma*gc*d------armijo型线性收缩公式（2.6） % d是下降方向，b是一个给定的常数且b0 % flag=0: satisfactory xn found; % flog=1: routine failed to locate satisfactory xn sufficiently distinct flag=1;stepsize=0; sigma=10^(-4);%0sigma1 a=1; [fvec,J,grad,hessian,fc,d]=badscb(n,m,x); slope=grad*d; xc=x; while flag==1 xn=xc+a*d; [fvec,J,grad,hessian,fn,d]=badscb(n,m,x); if fn=fc+a*sigma*slope flag=0; else a=b*a;xc=xn;fc=fn; stepsize=stepsize+1;%表示迭代一次 slope=grad*d; end end h=a;%满足结果的步长 实验结果 x = 1 1 h = 0.1125 step = 4 五、讨论： 在上面的Armijo型线性搜索中，试探步按比例b缩小让其逐渐逼近所需的合适步长。 若b（b=ρ）在（0，1）较大，则相邻两次试探步的改变相对较小，此时，需要经过较多次的搜索才能得到结果。 若b值较小，则相邻两次的试探步的改变相对较大，此时，可经过相对较少的试探步得到结果，但获得的步长可能很小。