曲线拟合的最小二乘法.pptxVIP

曲线拟合的最小二乘法会计学6.1 曲线拟合的过程第1页/共26页造型：通过作图分析或直接依据物理规律选取合适的曲线类型，即拟合模型：待定参数数目n通常远小于节点数目m.线性拟合模型：非线性拟合模型：（拟合过程续）第2页/共26页选择最好的曲线依据某种标准选择一条“最好”的简单曲线作为离散数据 的连续模型。标准：拟合残差向量r的某种范数最小.残差向量 r=(r0,r1,…,rm)T=r(c0,c1,…,cn) 第j个节点的残差范数：正数ωj是第j个采样点处的权。切比雪夫意义下的曲线拟合最小二乘意义下的曲线拟合第3页/共26页（拟合过程续） 总结切比雪夫意义下的曲线拟合模型最小二乘意义下的曲线拟合模型确定函数类?的一种方法：多项式（简单，Weierstrass Th. Page 89，可行，不是最有效的)6.2 最小二乘法拟合模型的求解第4页/共26页问题的矩阵形式表述法方程组平方误差法方程组系数矩阵（Gram矩阵）的表示矛盾方程以及加号逆举例基于离散正交多项式的最小二乘拟合第5页/共26页 最小二乘问题的矩阵形式表述第6页/共26页最小二乘问题等价于（矩阵表述续）第7页/共26页最小二乘问题等价于（矩阵表述续）离散Gram矩阵第8页/共26页 法方程组 定理3.6 如果离散Gram矩阵是实正定对称矩阵, 则向量 使得二次函数I(C)取最小值的充分必要条件是向量 是线性方程组 GnC=Y 的解向量.Remark 1 当Gn是实对称正定矩阵时,det(Gn)?0 ,定理中的线性方程组的解向量是存在惟一的, 此时最小二乘曲线拟合问题有惟一的解函数. 称定理中的方程组为线性空间上最小二乘问题的法方程组.第9页/共26页第10页/共26页 误差估计表示第11页/共26页离散Gram矩阵的进一步讨论行向量第12页/共26页（离散Gram矩阵续）类似地有：第13页/共26页（离散Gram矩阵续） 离散Gram矩阵是半正定矩阵：设?是任意非零列向量, 对角矩阵W对角元素为正当矩阵 A列满秩 (列线性无关)时离散Gram矩阵正定:对任意非零列向量?有A?是非零列向量, 进而得到 此时定理3.6的条件得到满足. 不严格地说, 由于矩阵的行数远远大于列数, 矩阵一般都是列满秩的.第14页/共26页 矛盾方程组以及加号逆 法方程组有表达形式：该式可以看作是给(超定)线性方程组 的两端左乘矩阵ATW得到。最小二乘第15页/共26页（矛盾方程组以及加号逆续） 超定线性方程组可理解为在线性空间Φ上求过节点 的插值函数所列出的线性方程组。由于插值条件的个数 m＋1远大于待定参数的个数没n＋1, 故一般说来该线性方程组是一个矛盾方程组, 无解。 法方程组的解又可以看作是上述矛盾方程在最小二乘意义下的最优解。第16页/共26页（矛盾方程与广义逆续）当取权矩阵W为单位矩阵时, 法方程组简化为 。进而当A列满秩时，ATA是实对称正定矩阵，矛盾方程组在最小二乘意义下的最优解可表示 。在矩阵论中称 是列满秩矩阵A的广义逆, 记为 。进而 是矛盾方程组在最小二乘意义下的最优解。第17页/共26页确定公式 中的参数, 使之与如下数据拟合。 例题xi0.10.20.30.40.50.6f(xi)0.1720.3230.4840.6901.0001.579解 公式关于参数非线性, 变形公式为如下线性模型：并有如下函数值表:xi0.10.20.30.40.50.6g(xi)5.813953.095982.066121.449281.000000.63331xi0.10.20.30.40.50.6g(xi)5.813953.095982.066121.449281.000000.63331第18页/共26页最小二乘曲线拟合的法方程组为, 即 解方程组得 = 0.503375, = 0.976071, = -1.966900,进而有参数 = 1.98659 = 1.93905, = -3.907422 。关于f的误差第19页/共26页最小二乘平方误差为第20页/共26页拟合效果示意图 第21页/共26页 用关于点集的正交函数系作最小二乘曲线拟合 背景： 最小二乘曲线拟合问题的解函数是通过求解法方程组得到的； 选定的基函数产生的法方程组系数矩阵可能是病态的, 即系数矩阵或右端项的微小扰动可能导致解函数有很大的误差。 为避免