主成分分析与典型相关分析.ppt

后面可以参考中央财大统计课件，简介一下因子分析。因子分析与主成分分析的区别：主成分分析分析与因子分析不同，主成分分析仅仅是变量变换，而因子分析需要构造因子模型。 主成分分析：原始变量的线性组合表示新的综合变量，即主成分； 因子分析：潜在的假想变量和随机影响变量的线性组合表示原始变量。 原变量具有较强相关性 代表l轴的变量y1描述了数据的主要变化，称变量y1为第一主成分，与之垂直的轴y2描述次要变化，第二主成分。因此需要寻找这样的坐标轴，并进行正交变换，就能找出数据的主要变化。因此，下面的目的就是在X1，X2的线性组合中寻找这样的Y1，Y2。 第一主成分—综合成绩一（平均成绩），第二主成分，综合成绩二（数学语文差异） * 注意：对a1如不加限制，则y1的方差可以任意变化，问题无意义。因此有（1）。如果第一主成分不足以反映原变量数据的分散性，再找第二主成分。第二主成分要求和第一信息不重叠，即不相关，才能最大化反映其他的综合信息，有（2）。重要性由大到小，故有（3）。 注意：对a1如不加限制，则y1的方差可以任意变化，问题无意义。因此有（1）。如果第一主成分不足以反映原变量数据的分散性，再找第二主成分。第二主成分要求和第一信息不重叠，即不相关，才能最大化反映其他的综合信息，有（2）。重要性由大到小，故有（3）。 正交变换保持距离不变。Cov（AX）=Acov(X)A’ 第二主成分要和第一主成分正交（垂直），因为正交对应不相关。且是所有与第一主成分正交的向量中，数据在此方向的方差最大的。 P为正交单位化特征向量构成的正交矩阵， P-1=PT。主成分反映的总差异不变。总成绩没变，但是分化情况明显看出来 主成分变换矩阵正交矩阵、特征值，贡献率 此例可以直接手求 因为特征根互不相同，故特征向量正交 因为特征根互不相同，故特征向量正交 X2分差大，占的权重大，X1被掩盖了。 Yi特征根越大，与Xj相关性越强，解释Xj能力越强。说明第一主成分最为重要。Xj方差越小，稳定，与Yi相关性越强，方差越大，主成分系数越大，显示其重要性。 * 如何由协方差矩阵求得相关系数矩阵？Diag(S)提取S对角元素构成列向量，S1向量为对角元素对角矩阵 * 原来得分不宜比较，主成分得分能够区分样品。 身高胸围体重 看各变量的样本协方差是否差距较大，以决定选择协方差矩阵还是相关系数矩阵进行主成分分析。 看各变量的样本协方差是否差距较大，以决定选择协方差矩阵还是相关系数矩阵进行主成分分析。 看各变量的样本协方差是否差距较大，以决定选择协方差矩阵还是相关系数矩阵进行主成分分析。 各城市序号 F2 = 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 各市按排名顺序 I2 = 1 合肥第一 4蚌埠第二 12芜湖第三 17 13 6 5 10 7 2 9 3 11 8 14 16 15 程序二：princomp命令函数 clear A=[ ]; X=zscore(A); %数据A标准化 [PC,score,latent]=princomp (X) %标准化数据主成分分析 结果： PC =第i列为第i个主成分系数向量 0.4192 -0.2105 -0.1458 -0.2702 -0.4558 -0.6913 0.4193 -0.2088 -0.1537 -0.2693 -0.4041 0.7219 0.4142 -0.1591 -0.3021 0.8417 0.0585 -0.0042 0.3730 0.9235 0.0077 0.0001 -0.0893 0.0022 0.4189 -0.0916 -0.2652 -0.3729 0.7784 -0.0296 0.4030 -0.1598 0.8907 0.0838 0.1080 0.0011 score =第i列为n个样本在第i个主成分的得分 7.3680 -0.6046 0.3378 -0.1798 -0.0857 0.0022 0.1787 0.3805 0.2875 0.2339 0.0543 0.0