第7章最小二乘估计的改进.ppt

SAS中实现岭回归 proc reg 选项； model y=自变量/ridge= 初始值to终值by步长； plot/ridgeplot; run; 选项：data=数据集； outest=岭回归估计数据集； graphics 绘图功能 outvif 输出vif 例7.1的岭回归 data p163; input x1 x2 x3 y; cards; … /*数据省略*/ ; run; proc standard m=0 std=1 out=std; run; proc reg data=std outest=rrresult graphics outvif; model y=x1 x2 x3/ridge=0 to 0.1 by 0.01; plot/ridgeplot; run; proc print data=rrresult; run; 注：在岭回归以及主成分回归中，若所有自变量以及因变量的量纲一致，则可以不用预先对数据进行标准化处理。 岭迹 取k=0.04,可得page 174的标准化数据的岭回归方程. 若在岭回归程序中把data=std更换为data=p163,则可直接得到page 174里原始数据的岭回归方程(page 163例7.1中四个变量的量纲都是：十亿法郎). 主成分回归在SAS中的实现 proc reg 选项； model y=自变量/pcomit=给定数字 选项； run; reg选项有 data=数据集, outest=输出数据集 pcomit=k表示删除最后面的k个主成分 model选项有outvif表示输出vif到输出数据集中 例7.1的主成分回归 data p163; input x1 x2 x3 y; cards; … /*数据省略*/ ; run; proc standard m=0 std=1 out=std; run; proc reg data=std; model y=x1 x2 x3/vif collinoint; run; proc reg data=std outest=prinresult; model y=x1 x2 x3/pcomit=1 outvif; run; proc print data=prinresult; run; x1-x3的vif都已很小，此时可得到page 180 的回归方程(7.3.10) 若在主成分回归的程序中把data=std更换为data=p163,则直接可以得到原始数据的主成分回归方程(7.3.11). K的选择 岭迹的作用： §7.3 主成分估计 K的几种取法： SAS中计算相关系数矩阵 proc corr 选项； 选语句： var 变量名表； with 变量名表; … 选项除data=…外，还有 pearson 缺省项 计算两两相关系数 cov 样本协方差矩阵 outp=… 存放样本相关系数矩阵数据 Page 163 例7.1 data p163; input x1 x2 x3 y; cards; 149.3 4.2 108.1 15.9 161.2 4.1 114.8 16.4 171.5 3.1 123.2 19.0 175.5 3.1 126.9 19.1 180.8 1.1 132.1 18.8 190.7 2.2 137.7 20.4 202.1 2.1 146.0 22.7 212.4 5.6 154.1 26.5 226.1 5.0 162.3 28.1 231.9 5.1 164.3 27.6 239.0 0.7 167.6 26.3 ; run; proc corr; run; 标准化过程在SAS中的实现 proc standard 选项； 选语句： var 变量名表； … 选项除 data=…外 还有out=新数据集 mean=…或m=… 指定新变量的均值 std=… 指定新变量的标准差 Page 163 例7.1 数据标准化 data p163; input x1 x2 x3 y; cards; … /*数据省略*/ ; run; proc corr; run; proc standard m=0 std=1 out=std; run; proc print data=std; run; SAS中实现共线性诊断 proc reg 选项； model y=自变量/vif collin; run;