matlab无约束优化问题.docxVIP

实验八无约束优化问题 实验目的 掌握应用mat lab求解无约朿最优化问题的方法 实验原理及方法 1：标准形式： min/（x） xeRn 其中f: RJ R为〃元函数 无约束优化问题的基本算法一.最速下降法（共辄梯度法）算法步骤：⑴ 给定初始点 X（）eEf允许误差￡0,令k=0； （2） 计算V/?的; （3） 检验是否满足收敛性的判别准则： 若满足，则停止迭代，得点X 否则进行⑷； （4） 令SA =-V/（XA ）,从X*岀发，沿計进行一维搜索， 即求人使得： min”X +/LS*）=/（X + 人 S“）； 久no （5） 令 XM =Xk k=k+l 返回⑵. 最速下降法是一种最基木的算法，它在最优化方法屮占有重要地位.最速下降法的优点是工 作量小，存储变量较少，初始点要求不高；缺点是收敛慢，最速下降法适用于寻优过程的前 期迭代或作为间插步骤，当接近极值点时，宜选用别种收敛快的算法?.牛顿法算法步骤： （1） 选定初始点X°gE\给定允许误差￡0,令k二0； （2） 求号炉）,炉/（卅）厂,检验：若||V/（X^|￡,则 停止迭代,否则,转向⑶; （3） 令S—-^2/炉『号（疋）（牛顿方向）; （4） Xk+] =Xk +Skf k = k + \i 转回（2）. 如果f是对称正定矩阵A的二次函数，则用牛顿法经过一次迭代 就可达到最优点，如不是二次函数，则牛顿法不能一步达到极值点， 但由于这种函数在极值点附近和二次函数很近似，因此牛顿法的收 敛速度还是很快的. 牛顿法的收敛速度虽然较快，但要求Hessian矩阵要可逆，要计算二阶导数和逆矩阵，就加 大了计算机计算量和存储量. 三.拟牛顿法： 为克服牛顿法的缺点，同时保持较快收敛速度的优点，利用第k步 和第k+1步得到的X*, Xk+\ V/（X）, W（XkB，构造一个正定 矩阵gm近似代替v2/（xA）,或用Hk+X近似代替（y2f（xk）y},将 牛顿方向改为： G+Isk+l =-V/(X G+I sk+l =-V/(XI+1), sk+l =-hm V/(X3) Ga+,:严 \f Ga+,: 严 \fk(\fkY G 仏gyc ~ (△厂「A? g y g仏k 通常采用迭代法计算Gk+i, HW 迭代公式为： BEGS (Boryden-F 1 etcher-Go 1 dfarb-Shanno)公式 Hk+l T 火 J] | MMM 冷(2) l (纣丁2丿(纣导心 心37屮_H沁你应丫(纣丁 A? DFP (Dav i don-Fletcher-Powe 11)公式: i+i—d (^Xk)TGk^Xk}^fk(^fk)T I 阳亍屮)(\fkY^xk △/^(△%)丁，‘ 一G“AX“(△广y (aFTv7 肿=屮父气朋丁 屮卯心广亍屮 ~ (Afk)T\Xk ?fk)T H父身 k 计算时可置H =1 (单位阵)，对于给出的0利 用上血的公式进行递推.这种方法称为拟牛顿法. Mat lab优化工具箱简介 MATLAB求解优化问题的主要函数 类 型 模 型 基本函数名 一元函数极小 Min F (x) s.t.xlxx2 x=fminbnd(4F\ Xi, X2) 无约束极小 Min F(X) X=fminunc (F, Xo) X=fminsearch(F,, Xo) 线性规划 Min cTX s. t. AX=b X=1 inprog(c, A, b) 二次规划 Min 1 xtHx+ctx 2 s? t? Ax〈二b X二quadprog (11, c, A, b) 约束极小 (非线性规划) Min F(X) s. t. G(X) =0 X=fmincon( FG,Xo) 达到目标问题 Min r s. t. F (x) -wr=goal X=fgoalattain(F, x, goal, w) 极小极大问题 Min max {Fi (x)} X {Fi(xM s. t. G(x)=0 X二fminimax (FG, xo) 2.优化函数的输入变量 使用优化函数或优化工具箱中其它优化函数时，输入变量见下表: 变量 描 述 调用函数 f 线性规划的目标函数f*X或二次规划的目标函 数XWI*X+f*X中线性项的系数向量 1 inprog,quadprog fun 非线性优化的目标函数? fun必须为行命令对象 fminbnd, fminsearch, fminunc,  或M文件、嵌入函数、或MEX文件的名称 fmincon, 1sqcurvefi t, 1sqnonl in, fgoalattain, fminimax H 二次规划的目标函数X*H*X+f*X中二次项的系 数矩阵 quadprog A,b A矩阵和b向量分别为线性不等