主成分分析简介要点.pptVIP

例2：8个样品中苯和二甲苯的含量见下表： # B T Bmc Tmc 1 48 26 13 12 2 44 20 9 6 3 40 24 5 10 4 38 18 3 4 5 32 9 -3 -5 6 28 6 -7 -8 7 26 5 -9 -9 8 24 4 -11 -10 mean 35 14 0 0 B: 苯， T: 二甲苯 ； Bmc和Tmc为减去平均值后的值 原始数据矩阵中含有8（n＝8）个样品、 两个变量， 其协方差矩阵为： 根据PC1求得的苯与二甲苯含量及残差 主成分得分的平方和、特征值与方差 (17.67)2+(10.58)2+(10.64)2+(4.96)2+(-5.67)2+ (-10.61)2+(-12.73)2+(-14.84)2=1089 (8-1) ×155.59=1089 主成分的平方和＝(n-1) ×对应特征值 由于主成分的均值为零，所以 主成分的平方和＝(n-1 ) ×方差 特征值反映的是相应主成分的方差大小 对于维数较大的数据矩阵，采用Jacobi法 进行PCA运算时间很长。可采用奇异值分 解法（Single Value Decomposition－ SVD）。 该法运算速度快, 非常适合大型数据矩阵的 处理。 主成分分析的奇异值分解法 X=USVt U是一正交列矩阵，即UtU=In；US为得分 阵。 S是一由X矩阵的特征值组成的对角矩阵， 它与XTX矩阵的特征值矩阵成平方关系； Vt（特征向量阵）是一正交行矩阵，即 VtV=Ip。 主成分分析简介 Principal Component Analysis（PCA） 什么是主成分分析？ 我们来看一个例子：小学各科成绩的评估可以用下面的综合成绩来体现： a1×語文＋a2×数学＋a3×自然＋a4×社会科学 确定权重系数的过程就可以看作是主成分分析的过程，得到的加权成绩总和就相对于新的综合变量——主成分 什么是主成分分析？ 推而广之，当某一问题需要同时考虑好几个因素时，我们并不对这些因素个别处理而是将它们综合起来处理，这就是PCA。 这样综合处理的原则是使新的综合变量能够解释大部分原始数据方差。 由于变量较多，增加了分析问题的复杂性。但在实际问题中，变量之间可能存在一定的相关性，因此，多变量中可能存在信息的重叠。人们自然希望通过克服相关性、重叠性，用较少的变量来代替原来较多的变量，而这种代替可以反映原来多个变量的大部分信息，这实际上是一种“降维”的思想。 主成分分析也称主分量分析，是由Hotelling于1933年首先提出的。由于多个变量之间往往存在着一定程度的相关性。人们自然希望通过线性组合的方式，从这些指标中尽可能快地提取信息。当第一个线性组合不能提取更多的信息时，再考虑用第二个线性组合继续这个快速提取的过程，……，直到所提取的信息与原指标相差不多时为止。这就是主成分分析的思想。一般说来，在主成分分析适用的场合，用较少的主成分就可以得到较多的信息量。以各个主成分为分量，就得到一个更低维的随机向量；因此，通过主成分既可以降低数据“维