第八章线性最小二乘法2010.pdfVIP

第八章 线性最小二乘法 第八章 线性最小二乘法 最优化理论与算法 线性最小二乘法 • 一、线性最小二乘法 邱启荣 • 二、非线性最小二乘法 • 1.改进的Gauss-Newton法 华北电力大学数理系 • 2.Levenberger-Marquart方法 1 2 上页下页 返回 结束 上页下页 返回 结束 第八章 线性最小二乘法 第八章 线性最小二乘法 一、线性最小二乘法 证明：⇒S ( x ) x T A T Ax −2b T Ax +b T b T 1. (P ) min S (x ) f (x )f (x ) T T ∇S (x) 2A Ax −2A b 0 2 Ax −b ⇐ ∀x x +δ* 这里 f ( x ) Ax −b Ax −b 2 A( x * +δ) −b 2 m ×n n m [(Ax * −b) +Aδ]T [(Ax * −b) +Aδ] A ∈R , x ∈R , b ∈R * 2 2 T T * Ax −b + Aδ +2δ A ( Ax −b) * 2.