sas学习系列23.多元线性回归.docxVIP

23.多元线性回归 、多元线性回归 1.模型为 Y= o+ 1X1 + …+ nXn+ e 其中Xi,…，Xn是自变量，Y是因变量，o, i…，n是待求的 未知参数，e是随机误差项（残差），若记 f V q心…灯 y2 1 a;2 心 Er • ■ ，无= « ¥ * 4 ■ » ,0 二 ■ 花— ■ - J …Xg 多元线性回归模型可写为矩阵形式： Y=X B + e 通常要求：矩阵X的秩为k+1 （保证不出现共线性），且kN； e 为正态分布，E（e）和E（ee）= 2I错误！未定义书签。，其中 I为N x N单位矩阵。 用最小二乘法原理，令残差平方和 ESS = （｝F - I\Y -浙） 最小，得到 力二（XX尸 为B的最佳线性无偏估计量（高斯-马尔可夫定理）。 2. 2的估计和T检验 选取2的估计量: 假如t值的绝对值相当大，就可以在适当选定的置信水平上否定 原假设，参数的1- a置信区间可由下式得出: A 土 4审忌 其中t a /为与a %显著水平有关的t分布临界值。 3. R2和F检验 *32.1回归方聲分析找 离羞平方和 自 iiK- 均方“ F统计篡- 尸概率值. source- MS. F p、. 回归兄 RSS^ k- MSR = RSS/k ■ Ff = MSR MSE i F. ESS- H\ MSE ESS \N - k-I） 总变异T TSS Ar-b 应 1 \2若因变量不具有0平均值，则必须对R2做如下改进: \2 PXXP-N RSS R- 二 TSS 讨 随着模型中增添新的变量，R2的值必定会增大，为了去掉这种增 大的干扰，还需要对R2进行修正(校正拟合优度对自由度的依赖 关系)： R2 ESS/(N -k-1)TSS/(N -1) R2 ESS/(N -k-1) TSS/(N -1) 做假设检验： Ho： 1 =…=n=0； Hi： i …， 使用F统计量做检验， „ R2/k -^（1卞） N - k -1 N至少有一个工0 ； _ _ R2 N-k-l W~[ ‘ 1TF —k— 若F值较大，则否定原假设。 、PROC REG过程步 基本语法： PROC REG data = 数据集； MODEL因变量=自变量列表＜/可选项＞; restrict自变量的等式约束; 说明：MODEL语句用来指定因变量和自变量；restrict 语句示例：restrict a1+a2=1; 常用的输出可选项： STB输出标准化偏回归系数矩阵 CORRB ――输出参数估计矩阵 COLLINOINT ――对自变量进行共线性分析 P――输出个体观测值、预测值及残差 （R/CLM/CLI 包含P） R――输出每个个体观测值、残差及标准误差 CLM ――输出因变量均值 95%的置信界限的上下限 CLI ――对各预测值输出 95%的置信界限的上下限 MSE――要求输出随机扰动项方差 2的估计? 与残差分析有关的可选项 VIF――输出变量间相关性的方差膨胀系数， VIF越大， 说明由于共线性存在，使方差变大； ――输出条件数，它表示最大的特征值与每个自 变量特征值之比的平方根。 一般情况下，条件数越大越可能存在 共线性； ――表示共线性水平的容许值， TOL越小说明其可用 别的自变量解释的部分多，自然可能与别的自变量存在共线性关 系； 输出Durbin-Watson 统计量； in flue nee 对异常点进行诊断，对每一观测点输出统 计量（Cook s D 50%, defits/debetas 2 说明该点影响较 大）。 交互式语句 add 向模型中增加变量； delete ——删除原拟合模型中的有关变量； refit 重新拟合模型； print 输出有关模型的相关信息。 绘制回归分析的图形 在PROC REG过程步加入绘图选项语句即可。 基本语法： PROC REG data = 数据集PLOTS =（图形类型）; 可选的绘图类型： FITPLO 带回归线、置信预测带的散点图； RESIDUALS自变量的残差图； DIAGNOSTICS ——诊断图（包括下面各图）； COOKSD——Cooks D统计量图； OBSERVEDBYPREDICTED——根据预测值的因变量图； QQPLOT ――检验残差正态性的 QQ图； RESIDUALBYPREDICTE——根据预测值的残差图； RESIDUALHISTOGRAM ——残差的直方图； RFPLOT——残差拟合图； RSTUDENTBYLEVERAGE——杠杆比率的学生化残差图； RSTUDENTBYPREDICTE 预测值的学生化残差图； 注：残差图（RESIDUALS）和诊断图（DIAGNOSTICS）是自动生 成的，根据模型也有其它