[最优化大作业.docVIP

一、最速下降法和共轭梯度法 (一) 问题描述 分别用最速下降法和共轭梯度法求解以下问题： 问题求解 1、最速下降法 （1）基本思想 在基本迭代公式中，每次迭代搜索方向取为目标函数的负梯度方向，即，而且每次迭代的步长取为最优步长，由此确定的算法称为最速下降法. （2）算法实现步骤 Step1:取初始点，容许误差（精度），令k：=0。 Step2:计算 Step3:检验，若是，迭代终止，取，否则，转Step4。 Step4:求最优步长：（一维搜索） Step5:令，令k：=k+1，转step2。 （3）运行结果与分析 取初始点，终止条件为 运行结果： x=[4,2],minf(x)=-8 迭代次数:k=43 共轭梯度法 （1）基本思想 共轭梯度法的基本思想是把共轭性与最速下降方法相结合，利用 已知点处的梯度构造一组共轭方向，并沿这组方向进行搜素，求出目标函数的极小点。根据共轭方向基本性质，这种方法具有二次终止性。 算法实现步骤 Step1:给定初始点，及精度； Step2:若，停止，极小值点为，否则转步骤Step3； Step3:取，且置； Step4:用一维搜索法求，使得，令，，转步骤Step5； Step5:若，停止，极小值点为，否则转步骤Step6； Step6:若，令，转步骤Step3，否则转步骤Step7； Step7:令，，