方差分析及回归分析.pptVIP

设Y关于x的回归函数为μ(x)。利用样本来估计μ(x)的问题称为求Y关于x的回归问题。 若μ(x)是线性函数μ(x)=a+bx，此时的估计问题称为求一元线性回归问题。 一元线性回归模型： 设Y~N(a+bx, σ2 )其中a,b, σ2是未知参数，记 ε = Y-（a+bx），则 Y= a+bx + ε, ε ~N(0, σ2 ) （1） 称上式为一元线性回归模型。 称a+bx为x的线性函数，而ε ~N(0, σ2 )是随机误差。 二、a、b的估计 取x的n个完全不相同的值x1,x2,…,xn，作独立试验，得样本 (x1, Y1),(x2, ,Y2),…,(xn ,Yn )，于是 Y= a+bxi + εi , εi ~N(0, σ2 )；各εi独立 （2） Yi ~N(a+bxi, σ2 )， Y1,Y2,…,Yn的联合概率密度为 利用最大似然估计法来估计未知参数a、b。令 则变为求Q(a,b)的最小值。 令 得方程组： 称这个方程组为正规方程组。 正规方程组的系数行列式为 故正规方程组有唯一一组解 这时我们把 作为回归函数μ(x)=ax+b 的估计。称为Y关于x的经验回归函数。 称方程 为经验回归方程，简称回归方程。 也可以把经验回归方程写为 若记 这时，a,b的估计值是 在例1中，测得温度对产品得率的关系是 为了求回归方程，我们需要计算 温度 100 110 120 130 140 150 160 170 180 190 得率 45 51 54 61 66 70 74 78 85 89 和Σ x Y x 2 y 2 xy 100 110 120 130 140 150 160 170 180 190 45 51 54 61 66 70 74 78 85 89 10 000 12 100 14 400 16 900 19 600 22 500 25 600 28 900 32 400 36 100 2 025 2 601 2 916 3 721 4 356 4 900 5 476 6 084 7 225 7 921 4 500 5 610 6 480 7 930 9 240 10 500 11 840 12 260 15 300 16 910 1 450 673 218 500 47 225 101570 于是得回归直线方程为 根据上表可以计算 三、 σ2的估计 根据 Y= a+bx + ε, ε ~N(0, σ2 ) （1） 即 ε = Y- ( a + bx)； 得到 E{[Y –( a+bx)]2 }= E(ε2)=D(ε2)+[E(ε)]2= σ2, 这说明： σ2愈小，用回归函数μ(x)=ax+b作为Y的近似所导致的均方误差就愈小；用μ(x)=ax+b研究Y就愈有效； 因为σ2是未知的，这就要利用样本来估计σ2 。 Qe是经验回归函数μ(x)=ax+b在xi处的函数值 与处的观察值的偏差的平方和。 我们来计算Qe 根据： 得Qe的分解式 计算出a,b的估计量是： 若记 残差平方和服从的分布如下： 的数学期望是n-2，由此知 这就得到了σ2的无偏估计量如下页所示。 x Y x 2 y 2 xy 100 110 120 130 140 150 160 170 180 190 45 51 54 61 66 70 74 78 85 89 10 000 12 100 14 400 16 900 19 600 22 500 25 600 28 900 32 400 36 100 2 025 2 601 2 916 3 721 4 356 4 900 5 476 6 084 7 225 7 921 4 500 5 610 6 480 7 930 9 240 10 500 11 840 12 260 15 300 16 910 1 450 673 218 500 47 225 101570 计算下表的和时，要计算三个量： 和Σ 例3、在上表中求σ2的无偏估计。 根据上页的表，我们可以得到 （四）线性假设的显著性检验 总结上述的讨论，我们有以下几条： Y关于x的回归μ(x)具有形式：a+bx； μ(x)是否为x的线性函数，要具体问题具体分析；即用?专业知识判断，和?运用假设检验的方法判断。 若线性假设 Y= a+bx + ε, ε ~N(0, σ2 ) 成立，则b不为零。因此需要检验