用主成分回归分析解决回归模型中复共线性问题.pdfVIP

( ) 第 26 卷 　第 1 期 沈阳师范大学学报 自然科学版 Vol 26 , No. 1 ( ) 2008 年 1 月 J ou rnal of S heny ang N orm al University N at u ral S cience J an . 2008 文章编号 : 1673 - 5862 (2008) 0 1 - 0042 - 03 用主成分回归分析解决回归 模型中复共线性问题 刘 罗 曼 (沈阳师范大学 数学与系统科学学院 , 辽宁 沈阳　110034) 摘 　　　要 : 主成分回归分析是将回归模型中有严重复共线性的变量进行因子提取 ,得到正交的 因子变量 ,然后对因子变量进行回归模型的建立 通过具体实例介绍复共线性的判别方法以及如 · 何利用主成分回归分析方法建立较理想的回归模型 ,从而解决了由于复共线性而造成病态回归方 程的问题 · 关 　键 　词 : 复共线性 ;主成分回归分析 ; 因子分析 ; 回归分析 中图分类号 : O 647 　　　文献标识码 : A 0 　引　　言 在实际问题的研究中 ,为了全面分析问题 ,往往涉及众多有关的变量 ,但是 ,变量太多不但会增加计 算的复杂性 ,而且也给合理地分析问题和解决问题带来困难 一般说来 ,虽然每个变量都提供了一定的 · 信息 ,但其重要性有所不同 实际上 ,在很多情况下 ,众多变量都有一定的相关关系 ,人们希望利用这种 · 相关性对这些变量加以“改造”,用为数较少的新变量来反映原变量所提供的大部分信息 ,通过对新变量 的分析达到解决问题的目的 主成分分析的基本方法是通过构造原变量的线性组合来产生一系列互不 · 相关的新变量 ,从中选出少数几个新变量并使它们含有尽可能多的原变量带有的信息 ,从而使得用这几 个新变量代替原变量分析问题和解决问题成为可能 因此 ,利用主成分分析可以很好地解决回归分析中 · 复共线性问题 · 在回归方程中 ,虽然各自变量对因变量都是有意义的 ,但是某些 自变量彼此相关 , 即存在共线的问 题 ,给评价自变量的贡献率带来困难 因此 ,需要对回归方程中的变量进行共线性诊断 ,并且确定它们对 · 参数估计的影响 主成分分析就是设法将原来众多具有一定相关性的指标重新组合成一组新的相互无 · 关的综合指标 ,称为主成分或因子 由于主成分间具有不相关性 ,并且能较好的反映原来众多相关性指 · 标的综合信息 ,因此 ,用主成分作为新的自变量进行回归分析会使得回归方程及参数估计更加可靠 · 1 　主成分回归分析应用背景[ 1] 1. 1 　主成分分析数学模型 : 设有 n 个样品, 每个样品观测 p 项指标 : X 1 , X 2 , …, X p , 得到原始数据资 料阵: x 11 x 12 … x 1p x 2 1 x 22 … x 2 p X = ( X 1 , X 2 , …, X p)   