主成分分析课件复习课程.pptVIP

* * 当且仅当a1 =u1时，即 时， 有最大的方差?1。因为Var(F1)=U’1?xU1=?1。 如果第一主成分的信息不够，则需要寻找第二主成分。 * * （二） 第二主成分 在约束条件 下，寻找第二主成分 因为 所以 则，对p维向量 ，有 * * 所以如果取线性变换： 则 的方差次大。 类推 * * 写为矩阵形式： * * §4 主成分的性质 一、均值 二、方差为所有特征根之和 说明主成分分析把P个随机变量的总方差分解成为P个不相关的随机变量的方差之和。 协方差矩阵?的对角线上的元素之和等于特征根之和。 * * 三、精度分析 1）贡献率：第i个主成分的方差在全部方差中所占比重 ，称为贡献率 ，反映了原来P个指标多大的信息，有多大的综合能力 。 2）累积贡献率：前k个主成分共有多大的综合能力，用这k个主成分的方差和在全部方差中所占比重 来描述，称为累积贡献率。 * * 我们进行主成分分析的目的之一是希望用尽可能少的主成分F1，F2，…，Fk（k≤p）代替原来的P个指标。到底应该选择多少个主成分，在实际工作中，主成分个数的多少取决于能够反映原来变量80%以上的信息量为依据，即当累积贡献率≥80%时的主成分的个数就足够了。最常见的情况是主成分为2到3个。 * * 四、原始变量与主成分之间的相关系数 * * 可见， 和 的相关的密切程度取决于对应线性组合系数的大小。 * * * * 五、原始变量被主成分的提取率 前面我们讨论了主成分的贡献率和累计贡献率，他度量了F1，F2，……，Fm分别从原始变量X1，X2，……XP中提取了多少信息。那么X1，X2，……XP各有多少信息分别F1，F2，……，Fm被提取了。应该用什么指标来度量？我们考虑到当讨论F1分别与X1，X2，……XP的关系时，可以讨论F1分别与X1，X2，……XP的相关系数，但是由于相关系数有正有负，所以只有考虑相关系数的平方。 * * 如果我们仅仅提出了m个主成分，则第i 原始变量信息的被提取率为： 是Fj 能说明的第i 原始变量的方差 是Fj 提取的第i 原始变量信息的比重 * * 例 设 的协方差矩阵为 解得特征根为 ， ， ，， 第一个主成分的贡献率为5.83/（5.83+2.00+0.17）=72.875%，尽管第一个主成分的贡献率并不小，但在本题中第一主成分不含第三个原始变量的信息，所以应该取两个主成分。 * * Xi与F1的 相关系数 平方 Xi与F2的相关系数 平方 信息提取率 xi 1 0.925 0.855 0 0 0.855 2 -0.998 0.996 0 0 0.996 3 0 0 1 1 1 * * 定义：如果一个主成分仅仅对某一个原始变量有作用，则称为特殊成分。如果一个主成分所有的原始变量都起作用称为公共成分。 (该题无公共因子） * * 六、载荷矩阵 * * §5 主成分分析的步骤 第一步：由X的协方差阵Σx，求出其特征根，即解方程 ，可得特征根 。 一、基于协方差矩阵 * * 第二步：求出分别所对应的特征向量U1，U2，…，Up， 第三步：计算累积贡献率，给出恰当的主成分个数。 第四步：计算原数据在所选出的k个主成分上的得分。 将原始数据的中心化值: 代入前k个主成分的表达式，分别计算出各单位k个主成分的得分，并按得分值的大小排队。 * * 二、基于相关系数矩阵 如果变量有不同的量纲，则必须基于相关系数矩阵进行主成分分析。不同的是计算得分时应采用标准化后的数据。 * * Spss实现: 1.analyze-description statistic-description-save standardized as variables 2.analyze-data reduction-factor 3.指定参与分析的变量 4.运行factor 过程 * * 主成分分析在经济指标综合评价中的应用 核心：通过主成分分析，选择m个主成分y1,y2,…,ym，以每个主成分yi的方差贡献率αi作为权数，构造综合评价函数， 其中 为第i个主成分的得分（求出主成分的表达式后，将标准化后的数据再代入yi中） 当把m个主