SAS多重线性回归.pptVIP

第3章 SAS多重线性回归 主要内容 多重线性回归模型简介 回归系数的估计 方程的假设检验 决定系数与剩余标准差 偏回归系数的假设检验 指标的量化 回归与 t 检验、方差分析的关系 标准偏回归系数与自变量的贡献 例3.1 某地13岁男童身高，体重，肺活量的实测数据（部分） 问题： 身高、体重 与 肺活量有无线性关系？ 用身高和体重预测肺活量有多高的精度？ 单独用身高、或体重是否也能达到同样效果？ 身高的贡献大，还是体重的贡献大？ 3.1 多重线性回归模型简介 多重回归 multiple regression multiple linear regression 因变量 dependent variable response variable （响应变量） 自变量 independent variable explanatory variable（解释变量） 回归模型 因变量y， 自变量为x1， x2， ?， xm a为截距（intercept），又称常数项（constant），表示各自变量均为0时y的估计值 bi 称为偏回归系数（partial regression coefficient），简称为回归系数 称为 y 的估计值或预测值（predicted value） 例3.1 根据某地29名13岁男童的身高x1（cm），体重x2（kg）和肺活量y（L）建立的回归方程为： 回归模型还可表示为： e 称为残差（residual） 多重线性回归需要满足： x 和y之间的关系是线性的 Cov（ei，ej）=0；独立性 e~N（0，σ2）；正态性 Var（ei）= σ2；方差齐性 用矩阵表示为： Y=XB+E Y是应变量向量；X称为设计矩阵（design matrix），B是回归系数向量；E是残差向量 3.2 回归系数的估计 最小二乘法（least square， LS） 残差平方和（sum of squares for residuals）最小 回归系数的矩阵计算： B=（XX）-1 XY 高斯-马尔科夫定理：最小二乘估计是方差最小的线性无偏估计量（best linear unbiased estimate，BLUE） R 例3.1 建立的回归方程为： 表3.2 估计值与残差 估计值与残差有下列性质： 3.3 方程的假设检验 未引进回归时的总变异： （sum of squares about the mean of Y） 引进回归以后的变异（剩余）: （sum of squares about regression） 回归的贡献，回归平方和： （sum of squares due to regression） 表3.3 回归方程的方差分析表 表3.4 资料回归方程的方差分析 3.4 决定系数与剩余标准差 决定系数（determination coefficient） R2可用于检验多重回归方程的显著性： H0：?2=0； H1：?2?0。 检验统计量为： 复相关系数R的性质 0≤R≤1。 当只有一个因变量y与一个自变量x时，R就等于y与x的简单相关系数之绝对值：R= | ryx | 当有多个自变量x1，x2，…，xm时，R的值比任何一个自变量与因变量的简单相关系数之绝对值大，即： 剩余标准差 剩余标准差 剩余标准差的用途 剩余标准差可用于偏回归系数的假设检验 y的容许区间估计 y的可信区间估计 自变量的选择等 因此，剩余标准差在回归分析中是一个非常重要的统计量 3.5 偏回归系数的假设检验 H0：? i =0； H1：? i ?0。 为偏回归系数的标准误： R的输出结果 Coefficients: Estimate Std. Error t value Pr（|t|） （Intercept） -0.565664 1.240127 -0.456 0.65208 x1 0.005017 0.010575 0.474 0.63920 x2 0.054061 0.015984 3.382 0.00228 3.6 标准偏回归系数与自变量的贡献 . reg y x1 x2 ， beta Source | SS df MS Number of obs = 29 -------------+------------------------------