matlab无约束优化问题.docVIP

实验八 无约束优化问题 一.实验目的 掌握应用matlab求解无约束最优化问题的方法 二.实验原理及方法 1：标准形式： 2．无约束优化问题的基本算法 一．最速下降法（共轭梯度法）算法步骤： ⑴ 给定初始点，允许误差,令k=0； ⑵ 计算； ⑶ 检验是否满足收敛性的判别准则： ， 若满足，则停止迭代，得点，否则进行⑷； ⑷ 令，从出发，沿进行一维搜索， 即求使得： ； ⑸ 令，k=k+1返回⑵. 最速下降法是一种最基本的算法，它在最优化方法中占有重要地位.最速下降法的优点是工作量小，存储变量较少,初始点要求不高；缺点是收敛慢，最速下降法适用于寻优过程的前期迭代或作为间插步骤，当接近极值点时，宜选用别种收敛快的算法. 二．牛顿法算法步骤： (1) 选定初始点，给定允许误差，令k=0； 求,,检验：若,则 停止迭代,.否则, 转向(3)； (3) 令 （牛顿方向）； (4) ,,转回(2). 如果f是对称正定矩阵A的二次函数，则用牛顿法经过一次迭代 就可达到最优点,如不是二次函数，则牛顿法不能一步达到极值点， 但由于这种函数在极值点附近和二次函数很近似,因此牛顿法的收 敛速度还是很快的. 牛顿法的收敛速度虽然较快，但要求Hessian矩阵要可逆，要计算二阶导数和逆矩阵，就加大了计算机计算量和存储量. 三．拟牛顿法： 为克服牛顿法的缺点，同时保持较快收敛速度的优点，利用第k步 和第k+1步得到的，，，，构造一个正定 矩阵近似代替,或用近似代替，将 牛顿方向改为： =-，=- 从而得到下降方向. 通常采用迭代法计算，，迭代公式为: BFGS（Boryden-Fletcher-Goldfarb-Shanno）公式 DFP（Davidon-Fletcher-Powell）公式： 计算时可置（单位阵），对于给出的利 用上面的公式进行递推.这种方法称为拟牛顿法. 3．Matlab优化工具箱简介 MATLAB求解优化问题的主要函数 类 型 模 型 基本函数名 一元函数极小 Min F（x）s.t.x1xx2 x=fminbnd(‘F’,x1,x2) 无约束极小 Min F(X) X=fminunc(‘F’,X0) X=fminsearch(‘F’,X0) 线性规划 Min s.t.AX=b X=linprog(c,A,b) 二次规划 Min xTHx+cTx s.t. Ax=b X=quadprog(H,c,A,b) 约束极小 （非线性规划） Min F(X) s.t. G(X)=0 X=fmincon(‘FG’,X0) 达到目标问题 Min r s.t. F(x)-wr=goal X=fgoalattain(‘F’,x,goal,w) 极小极大问题 Min max {Fi(x)} X {Fi(x)} s.t. G(x)=0 X=fminimax(‘FG’,x0) 2. 优化函数的输入变量 使用优化函数或优化工具箱中其它优化函数时, 输入变量见下表: 变量 描 述 调用函数 f 线性规划的目标函数f*X 或二次规划的目标函数X’*H*X+f*X 中线性项的系数向量 linprog,quadprog fun 非线性优化的目标函数.fun必须为行命令对象或M文件、嵌入函数、或MEX文件的名称 fminbnd,fminsearch,fminunc, fmincon,lsqcurvefit,lsqnonlin, fgoalattain,fminimax H 二次规划的目标函数X’*H*X+f*X 中二次项的系数矩阵 quadprog A,b A矩阵和b向量分别为线性不等式约束：中的系数矩阵和右端向量 linprog,quadprog,fgoalattain, fmincon, fminimax Aeq,beq Aeq矩阵和beq向量分别为线性等式约束： 中的系数矩阵和右端向量 linprog,quadprog,fgoalattain, fmincon, fminimax vlb,vub X的下限和上限向量：vlb≤X≤vub linprog,quadprog,fgoalattain, fmincon,fminimax,lsqcurvefit, lsqnonlin X0 迭代初始点坐标 除fminbnd外所有优化函数 x1,x2 函数最小化的区间 fminbnd options 优化选项参数结构，定义用于优化函数的参数 所有优化函数 3. 优化函数的输出变量下表: 变量 描