现代设计方法选编.doc

环境变量 用牛顿法求函数 的极小值点坐标(迭代二次)。 解 初始点 则初始点处的函数梯度、海森矩阵及其逆矩阵为 代入牛顿法迭代公式,得 代入牛顿法迭代公式,得 二、分析比较牛顿法、阻尼牛顿法、共轭梯度法、变尺度法和鲍威尔法的特点,找出前四种方法的相互联系。 比较牛顿法:牛顿法收敛很快,对于二次函数只需迭代一次便达到最优点,对非二次函数也能较快迭代到最优点,但要计算二阶偏导数矩阵及其逆阵,对维数较高的优化问题,其计算工作和存储量都太大。 阻尼牛顿法:可以看出原始牛顿法就相当于阻尼牛顿法的步长因子取成固定值1的情况。阻尼牛顿法每次迭代都在牛顿方向上进行一维搜索,避免了迭代后函数值上升的现象,从而保持了牛顿法二次收敛的特性,而对初始点的选取并没有苛刻的要求。?这类方法的主要缺点计算复杂,工作量大,要求计算机存储量大 共轭梯度法:共轭方向主要是针对二次函数的,但也可以用于一般非二次函数。共轭方向法是二次收敛的,计算程序简单,存储量相对较少 变尺度法:只需用到函数的一阶梯度;下降算法,故收敛全局;计算量小(不需要求矩阵逆);一般可以达到超线性收敛(速度快) 鲍威尔法:多维无约束优化算法是在无约束优化算法之一,首先选取一组共轭方向,从某个初始点出发,求目标函数在这些方向上的极小值点,然后以该点为新的出发点,重复这一

文档评论(0)

1亿VIP精品文档

相关文档