多元线性回归中多重共线问题的解决方法综述.docxVIP

+Pp-1X1(p-1)+81+P +Pp-1X1(p-1)+81+Pp-1X2(p-1)+82 YIn采用矩阵形式来表示 2n2 p-1 n(p-1)n 「Y[1 「1 X11 X12 X一1,(p-1) Y 1 X X X 2 ,X= 21 22 …2,(p-1) … Y 1 X X X n nx1 _??? .?n1 n2 n,(p-1)」 nxp 摘要 在回归分析中，当自变量之间出现多重共线性现象时，常会严重影响到参数估计，扩大模型误差，并破坏模型的稳健性，因此消除多重共线性成为回归分析中参数估计的一个重要环节。现在常用的解决多元线性回归中多重共线性的回归模型有岭回归(RidgeRegression).主成分回归(PrincipalComponentRegression简记为PCR)和偏最小二乘回归(PartialLeastSquareRegression简记为PLS)。 关键词：多重共线性；岭回归；主成分回归；偏最小二乘回归引言 在多元线性回归分析中，变量的多重相关性会严重影响到参数估计，增大模型误差，并破坏模型的稳健性由于多重共线性问题在实际应用中普遍存在，并且危害严重，因此设法消除多重性的不良影响无疑具有巨大的价值常用的解决多元线性回归中多重共线问题的回归模型主要有主成分回归岭回归以及偏最小二乘回归。 1、多元线性回归模型1.1回归模型的建立设Y是一个可观测的随机变