最佳平方逼近与最小二乘拟合.docVIP

最佳平方逼近与最小二乘拟合 ——两者的区别与联系 函数逼近是用一个多项式无限接近原函数，而拟合是将函数中的元素联系起来。也就是说，最佳平方逼近是针对函数，最小二乘法是针对离散的点，二者在形式上基本一致。另外，最小二乘拟合也称为离散型最佳平方逼近，两者的解法有很多相似之处。 函数的最佳平方逼近 （一）最佳平方逼近函数的概念 对及中的一个子集，若存在，使，则称是在子集中的最佳平方逼近函数。 （二）最佳平方逼近函数的解法 为了求，由可知，一般的最佳平方逼近问题等价于求多元函数 的最小值问题。 由于是关于的二次函数，利用多元函数极值的必要条件，即 ， 于是有。 是关于的线性方程组，称其为法方程。 由于线性无关，故系数行列式，于是方程组有唯一解， 从而得到。 就是中的最佳平方逼近函数。 （三）最佳平方逼近函数所产生的误差 若令，则平方误差为： 。 取，即要在中求n次最佳平方逼近多项式 ， 此时， 若用H表示行列式对应的矩阵，则 ， H称为Hilbert矩阵，记 其中 则方程的解即为所求。 注意： 最佳平方逼近误差越小说明函数空间Hn对f(x)的逼近效果越好。 曲线拟合的最小二乘法 （一）最小二乘逼近的概念 对于给定的一组数据，要求在函数空间中找一个函数，使误差平方和，这里。 这就是一般的最小二乘逼近，用几何语言来说，就称为曲