(完整版)主成分分析在STATA中的实现以及理论介绍.doc

第十二章 主成分分析 主成分分分析也称作主分量分析，是霍特林 (Hotelling) 在 1933 年首先提出。主成分分析是利用降维的思想， 在损失较少信息的前提 下把多个指标转化为较少的综合指标。 转化生成的综合指标即称为主 成分，其中每个主成分都是原始变量的线性组合， 且各个主成分互不 相关。 Stata 对主成分分析的主要内容包括：主成分估计、主成分分 析的恰当性（包括负偏协方差矩阵和负偏相关系数矩阵、 KMO(Kaiser-Meyer-Olkin) 抽样充分性、复相关系数、共同度等指标 测度）、主成分的旋转、预测、各种检验、碎石图、得分图、载荷图 等。 yij ai b j ij , i 1,2, , n j 1,2, , p 主成分的模型表达式为： C V p i vi vi V i 1 vi v j 0 diag( 1 , 2 , , p ), 1 2 p 其中， a 称为得分， b 称为载荷。主成分分析主要的分析方法是 对相关系数矩阵（或协方差矩阵）进行特征值分析。 Stata 中可以通过负偏相关系数矩阵、负相关系数平方和 KMO值 对主成分分析的恰当性进行分析。 负偏相关系数矩阵即变量之间两两 偏相关系数的负数。 非对角线元素则为负的偏相关系数。 如果变量之 间存在较强的共性，则偏相关系数比较低。因此，如果矩阵中偏相关 系数较高的个数比较多， 说明某一些变量与另外一些变量的相关性比 较低，主成分模型可能不适用。这时，主成分分析不能得到很好的数 据约化效果。 Kaiser-Meyer-Olkin 抽样充分性测度也是用于测量变量之间相 关关系的强弱的重要指标， 是通过比较两个变量的相关系数与偏相关 系数得到的。 KMO介于 0 于 1 之间。KMO越高，表明变量的共性越强。 如果偏相关系数相对于相关系数比较高， 则 KMO比较低，主成分分析 不能起到很好的数据约化效果。根据 Kaiser （1974），一般的判断标准如下： 0.00-0.49, 不能接受（ unacceptable ）;0.50-0.59, 非常差（miserable ）；0.60-0.69 ，勉强接受（ mediocre ）；0.70-0.79, 可以接受（ middling ）；0.80-0.89 ，比较好（ meritorious ）；0.90-1.00,非常好（ marvelous ）。 SMC即一个变量与其他所有变量的复相关系数的平方，也就是复 回归方程的可决系数。 SMC比较高表明变量的线性关系越强，共性越 强，主成分分析就越合适。 成分载荷、 KMO、SMC等指标都可以通过 extat 命令进行分析。 多元方差分析是方差分析在多元中的扩展， 即模型含有多个响应 变量。本章介绍多元（协）方差分析以及霍特林（ Hotelling) 均值向 量 T 检验。 12.1 主成分估计 Stata 可以通过变量进行主成分分析，也可以直接通过相关系数 矩阵或协方差矩阵进行。 1）sysuse auto,clear pca trunk weight length headroom pca trunk weight length headroom, comp(2) covariance 2）webuse bg2,clear pca bg2cost*, vce(normal) 12.2 Estat estat 给出了几个非常有用的工具，包括 KMO、SMC等指标。 webuse bg2,clear pca bg2cost*, vce(normal) estat anti estat kmo estat loadings estat residuals estat smc estat summarize 12.3 预测 Stata 可以通过 predict 预测变量得分、拟合值和残差等。 webuse bg2,clear pca bg2cost*, vce(normal) predict score fit residual q （备注： q代表残差的平方和） 12.4 碎石图 碎石图是判断保留多少个主成分的重要方法。 命令为 screeplot 。 s e ul a v n e gi E  webuse bg2,clear pca bg2cost*, vce(normal) screeplot Scree plot of eigenvalues after pca 2 5 . 1 1 5 . 1 2 3 4 5 6 Number 12.5 得分图、载荷图 得分图即不同主成分得分的散点图。命令为 scoreplot 。 webuse bg2,clear pca bg2cost*, vce(normal) scoreplot 2 t n e