目标函数的几种极值求解技巧.docVIP

目标函数极值求解的几种方法 题目：，取初始点，分别用最速下降法，你牛顿法，共轭梯度法编程实现。 一维搜索法： 迭代下降算法大都具有一个共同点，这就是得到点后需要按某种规则确定一个方向，再从出发，沿方向在直线（或射线）上求目标函数的极小点，从而得到的后继点，重复以上做法，直至求得问题的解，这里所谓求目标函数在直线上的极小点，称为一维搜索。 一维搜索的方法很多，归纳起来大体可以分为两类，一类是试探法：采用这类方法，需要按某种方式找试探点，通过一系列的试探点来确定极小点。另一类是函数逼近法或插值法：这类方法是用某种较简单的曲线逼近本来的函数曲线，通过求逼近函数的极小点来估计目标函数的极小点。本文采用的是第一类试探法中的黄金分割法。原理书上有详细叙述，在这里介绍一下实现过程： ⑴ 置初始区间[]及精度要求L0,计算试探点和，计算函数值和，计算公式是：，。令k=1。 ⑵ 若则停止计算。否则，当时,转步骤⑶;当时,转步骤⑷ 。 ⑶ 置,,,,计算函数值,转⑸。 ⑷ 置,,,,计算函数值,转⑸。 ⑸ 置k=k+1返回步骤 ⑵。 最速下降法 实现原理描述：在求目标函数极小值问题时,总希望从一点出发,选择一个目标函数值下降最快的方向,以利于尽快达到极小点,正是基于这样一种愿望提出的最速下降法,并且经过一系列理论推导研究可知