线性最小二线乘问题的存在与唯一.ppt

实例讲解 某种合成纤维的强度与其拉伸倍数有直接关系，下表是实际测定的24个纤维样品的强度与相应拉伸倍数的记录。 提示：将拉伸倍数作为x, 强度作为y,在座标纸上标出各点，可以发现什么? 数据表格 　 从上图中可以看出强度与拉伸倍数大致成线形关系，可用一条直线来表示两者之间的关系。 解：设 y*=a+bxi ，令δ=yi-y*i=yi-a-bxi，根据最小二乘原理，即使误差的平方和达到最小，也就是令 n Q=∑δi2 i=1为最小 ，即求使   (a,b)=  有最小值的a和b的值。 计算出它的正规方程得 解得： a=0.15 , b=0.859 直线方程为：y*=0.15+0.859x 曲线拟合的最小二乘法 最小二乘原理 当由实验提供了大量数据时,不能要求拟合函数 在数据点 处的偏差,即 (i=1,2,…,m) 严格为零,但为了使近似曲线尽量反映所给数据点的变化趋势 ,需对偏差有所要求.通常要求偏差平方和 最小,此即称为最小二乘原理 ?最小二乘法的求法 ?最小二乘法的几种特例 例 题 二 线性最小问题的存在与唯一 在科学实验中，很多情况数据间存在线性或可转化为线性的关系。线性最小二乘是最基本也是最重要的一种。 1 线性最小二乘问题与线性最小二乘求解 设 Ax=b 其中 A?R m?n，b?R m，x ? R n 当m?n 时，上方程超定方程组 令 r =b-Ax ， 一般，超定方程无通常意义下解， 既无x使 t=0。对这类方程求解意义是求x，使 ? ? r? ?22 = ? ? b-Ax ? ? 22 为最小， 称x为Ax=b的最小二乘解。 三 线形模型的正规方程 关于拟和模型必须能反映离散点分布基本特征。 常选取?是线性拟和模型，既?所属函数类为 M =Span{? 0，?1，… ?n}， 其中 ? 0，?1，… ?n 是线性无关的基函数 m 于是 ?（x）= ?c j ?j（x） j=0 通常选取每个?j是次数?j的简单多项式，即M 是次 数 ? n 的n次多项式空间。 取 ?j（x）=x j ， j=0，1，…，n M =Span{1 ,x , x2，…，x n}， 从而?（x）= C0 +C1 x1 + …+ C n x n =Pn(x) 四线形模型举例 表中提供离散数据（x i ， y i），（0?i?4） 试用二次多项式进行拟合. i xi yi ?*（xi） yi - ?*（xi） 0 0 1.0000 1.0052 -0.0052 1 0.25 1.2840 1.2740 0.0100 2 0.50 1.6487 1.6482 0.0005 3 0.75 2.1170 2.1279 -0.0109 4 1.00 2.7183 2.7130 0.0053 五线性模型引深及推广 由上述我 们已经知到上述线性模型实际上是最小二乘法的推广，实际上也就是多项式逼近函数的问题。它不仅可