PLS回归中地一种新地评判准则.docxVIP

X，，x：， ，X，的线性组合)，此时提取出的tl应尽可能地代表数据阵E。，且自 变量的成分t．对因变量F。又有最强的解释能力。即： (1)t。应尽可能大地携带E。中的变异信息； (2)t，与F。的相关程度达到最大； 在第一个成分t．被提取出来了之后，PLS回归方法分别实施E。与t．及F。与t， 的回归。若回归方程已经达到满意的精度，则算法终止；否则，将利用E。被t． 解释后的残余信息及F。被tt解释后的残余信息进行第二轮的成分提取。如此往 复，直到能达到～个较满意的精度为止。若最终对E。共提取了P个成分 t，，t：，?，t p，PLS则将通过实施Fo对tt,t2， ，t，的回归，然后再表述成Y对原 自变量X。，X：， ，X，的回归方程，以最终达到建立Y与X．，X：， ，X，之间线 性关系的目的。 二、建模方法； 第一步： 记t，是E。的第一个主成分，t。=E。t6，，tO．是E。的第一个轴，它是一 个单位向量，即fp，卜l。若要t；很好地代表Eo中的数据变异信息，由主成分分 析原理，应有； vat(t1) max 另外，又要求t。对F。具有最大的解释能力，由典型相关分析的思路有： r(tl，Fo)_舱x 因此，综合起来有； 厕r(t，，Fo)=再丽厕r(t．，F。) 2COV(tl，Fo)max 而tt2E。珂，，E o是标准化的矩阵，故t．的重心为0；又因为Fo也是标准化的， 重心也为0，故有： c。v(t∥o)-：㈠，F0)2l”E溉，Fo)寸max 所以，t／7、应是以下最优化问题的解： fmax(E。t／7，，‘) It／／I。t／Y1 5 1 采用拉格朗日算法有： s：万。‘Eo‘Fo—A白，‘河．一1) 旦；EotF。一22旷o (1) oⅡ，I 爰=-¨,-0=。 (2) 由以上有： 22=吼。E0‘Fo=(Eoq，Fo) 记2A=口，可见口正是最优化问题的目标函数值： 从而有： Eo‘F o=钿1 (3) F o‘Eo吼=口 (4) 故： Eo‘F oF o‘Eo甄=口2吼 即第一主轴吼是矩阵EoF。F。‘E。对应于最大特征值p2的标准化的特征向量。 而对于单因变量的PLS回归，其主轴的计算又具有其特殊性，这是因为由： F o‘Eo=彻l‘ Eo‘F 02钿l 可得：F o‘EoEo‘F o=口2 故：02=}怯‘R《2，p2 llEo‘R0 玑旷擎2尚 在求得轴万．后，立即可得到成分t 4 tI。E oq 然后，分别实施t，在E。，F。上的回归有 Eo=tlPl‘+El Fo=tl。l‘+Fl 其中回归系数向量为 。：鱼墨 h WII ，一R‘tl L一。丽 从而得到残差矩阵E．，F 第二步：用残差矩阵El及F1取代Eo及F。，求第二个主轴珂：及成分t：，有 ％2尚 t 22El珂2 再分别实施t：在E，，F。上的回归，以得残差矩阵E：，F：： EI=t 2P 2‘+E 2 Fl 2t 2 r 2‘+F 2 其中回归系数向量为： E‘t， 儿2讦 旷爵 以后，每步均依此计算下去，若X阵的秩为氏则会有： Eo。tlPf‘+t 2P 2‘+?+t』P』‘ F。=tlrl‘+t 2r 2‘+?+t J r』‘+F』 (5) 由于t，，t：， ，t。均可以表示为E。E。， ，E。，的线性组合，故由(5)式可还 原为E。与Fo之间的线性回归方程，从而进一步可得到Y与X-，X2， ，X， 之间的线性回归方程。 1．3 PLS回归的性质及简化算法 一、PLS回归的性质： 性质1；成分t。与同阶的残差向量是正交的，即对Vh，有： htE^=0 证明： 。即。(Eh_I-thph‘)-t—lEr。t一静-o- 性质2：成分tI，t：， ，t。之间是相互正交的 证明：利用归纳证明法 1．先证titt 2=0 tltt2=t／El巧2=0 2．假设t，，t：， ，t．之间相互正交。下面证明再加入一个成分t^+l，它们之 间仍相互正交，即只需再证：t。与h,t：， ，t^之间相互正交 t^‘t^+l。t^‘E^万¨l。0 t。‘t。=t。‘E。咿。，=k．‘k。一“P。‘)缈“．=o k：‘t川=t h_2tE．印rh+I=t。‘奴。一“P。‘)形^+l =t。：‘(fk：一r。一；pb。f—f。P。‘)珂h。 t1‘t h+1=0 依此可知：t．，t：， ，t。之间相互正交 一 此性质说明：用PLS回归方法从原自变量E。中抽取的成分t1I．”，t。之间是相互 正交的。故最后当用普通的LS回归求F o关于tl，．”，t。的回归方程时，就不会遇 到多重相关性问题了。 这也说明，在第一步PLS回归计算时，抽取了对系统解释性最强的综合变量。而在第二步，则抽取了对系统解释能力第二大的综合变量，且这两个综合变量所携带的信息是不重叠的