02回归、方差分析.pdfVIP

实验二 回归分析、方差分析 实验名称：回归分析、方差分析 实验类型:验证性实验 学 时：2 适用对象: 信息与计算科学 一、实验目的与要求 1．理解线性回归分析和方差分析的模型、统计推断等方法。 2．能够使用SAS 做回归分析和方差分析。 二、线性回归分析的基本理论与方法 2.1 线性回归模型 2.1.1 线性回归模型的矩阵表示 设 Y 是一个可观测的随机变量，它受到 p-1 个非随机因素 X ,X ,…,X 和随机误差 ε 1 2 p-1 的影响。若Y 与 X ,X ,…,X 有如下线性关系： 1 2 p-1 Y β =+β X ++β X +ε ， (1) 0 1 1 p -1 p -1 其中β ，β，，β 是未知参数，ε ~ N (0，σ2 )。该模型称为线性回归模型。 0 1 p -1 我们进行 n （n≥p）次独立观测，得到n 组样本(x ，x ，x ；y )，i 1，2，，n ，应 i1 i 2 i，p -1 i 满足(1)式： y β =+βx ++β x +ε i 1,，2 ,n ， (2) i 0 1 i1 p-1 ip-1 i ( ) 2 其中ε ,ε , …,ε 相互独立均服从N (0,σ ) 分布。简写为矩阵形式： 1 2 n Y = X β + ε， (3) 其中 Y 为观测变量，X 为设计矩阵，它们由观测数据得到，是已知的，并假定 Rank(X) p。 β是待估计的未知参数向量，ε是不可观测的随机误差向量。式(3)称为线性回归模型的矩 阵形式。 2 2.1.2 β及σ 的估计 (1) β 的最小二乘估计 选择 β使误差项的平方和 1 2 2 T T n ⎛ p −1 ⎞ S β ε ε ε Y −X β Y −X β y =− x β ( ) ∑ ( ) ( ) ∑ ∑⎜ ⎟ i i ij j