偏最小二乘回归在R软件中的实现及其优缺点剖析.pdf

一 ■三 窒垦 型堑 RealizationandAdvantagesandBisadvantaaesAnalysisofPartialLeast-SquaresRegressionintheRSoftware 张华东 阮陆宁 ZhangHuadongRuanLuning (南昌大学经济管理学院，江西 南昌 330031) (SchoolofEconomicsandManagement，NanchangUniversity，JiangxiNanchang330031) 摘 要：偏最小二乘回归(PLS)作为一种多变量对多变量的回归方法，在解决小样本多变量且变量间存 在多重共线性的回归问题中得到了广泛的应用。本文介绍了偏最小二乘的回归原理、回归步骤以及回9-3系数 显著性检验方法，并结合一个实例展示了基于R软件的偏最小二乘回归实现过程，最后对偏最小二乘回归 的优缺点进行了剖析。 关键词：偏最小二乘回归；R语言；显著性检验；优缺点分析 中图分类号：O241 文献标识码：A 文章编号：1671—4792(2015)11-0012．06 Abstract：Partialleastsquaresregression (PLS)，asakindofmultivariateofmultivariaterergessionmethod， hasbeenwidelyusedinsolvingrergessionproblemsofsmallsampleswithmultivariateandvariableswithmulti— collineariyt．Thispaperintroduceshteprincipleofpartialleastsquaresrergession，rergessionprocedure，aswellas themethodofrergessioncoefficientsignificancetest，andbycombiningwiht aninstanceshowstheimplementa— tionprocessofpartialleast—squaresrergessionbasedonR software．Finally，thepaperanalyzestheadvantagesand disadvantagesofthepartialleast—squaresrergession． Keywords：PLS；RLanguage；SignificanceTest；AdvantagesandDisadvantagesAnalysis 0引言 小二乘在解决小样本多变量且变量问存在多重共线 经济管理中通常使用普通最小二乘回归(OLS) 性的回归问题中得到了广泛的应用。在现实的经济 进行数据的分析、预测与控制，然而当解释变量过多 分析中，一方面我们不仅要理解偏最小二乘回归的 而样本很少时，普通最小二乘法就不再适用 了。 原理，还应该掌握其回归步骤并能通过软件加以实 HermanWold在20世纪70年代的经济学研究中提 现；另一方面，对于一种新的回归方法我们不仅要关 出偏最小二乘法 (PLS)，它能在小样本的情况下实 注其优点还要关注它的局限性及适用条件。因此，本 行多变量对多变量的回归建模。基于这个原因，偏最 文结合一个实例展示了基于R软件的偏最小二乘 回归实现过程，并对其优缺点进行剖析，以期规范偏 歪丽 ．教育 睡垣2014年度自立项 目“要素 流动视角：新型城镇化发展与产业结构演进的研 最小二乘的适用条件。 究——以中部地区为例” 】2 1偏最小二乘回归及其显著性检验方法 式 (1)中，x^【Ji，】， 表示两个向量的内积(即 1．1回归原理 成分的相关程度)，于是只需求出矩阵X~,yrx的特 偏