阻尼牛顿法定稿演示.pptVIP

（优选）阻尼牛顿法定稿 第一页，共三十四页。 牛顿法 1.基本原理 在第K次迭代的迭代点 的邻域内，把 展开成泰勒级数的二次函数式去近似代替原目标函数 ，然后求出该二次函数的极小点，作为对原目标函数求优的下一个迭代点，依此类推，通过多次重复迭代，使迭代点逐步逼近原目标函数的极小点。 第二页，共三十四页。 . 释图： Company Logo 第三页，共三十四页。 设目标函数是连续二阶可微的，将函数在点 按泰勒级数展开，并取到二次项： 第四页，共三十四页。 对x求导，其极值点必满足一阶导数为零，所以， 得到 式中， 为Hessian矩阵的逆矩阵。 第五页，共三十四页。 在一般情况下， 不一定是二次函数，因而 也不可能是 的极值点。但是在 点附近，函数 和 是近似的，所以可以用 点作为下一次迭代，即得 如果目标函数 是正定二次函数，那么 是个常矩阵，逼近式