第17章 主成分分析与因子分析.pptVIP

4.计算特征向量 将图17-3中因子载荷矩阵的第i列除以 （i=1、2、3、4）就得到特征向量。 5.计算主成分得分 将4个新变量（FAC1_1、FAC2_1、FAC3_1、FAC4_1）分别乘以 （i=1、2、3、4）就得到主成分得分（变量）。 【实验17-2】对例17-2资料进行因子分析。 1.数据文件格式 2.操作步骤 （1）先进行一次预计算 * 第十七章 主成分分析与因子分析 浓缩数据，或称数据简化，即以最少的信息丢失为代价将众多的观测变量浓缩为少数几个因素，从而提炼问题，或发现事物的内在联系。 主成分分析和因子分析是最为常用的数据简化方法，用于考察多个变量间的内在结构，或者提取数据的主要信息。 O x1 x2 F1 F2 第一节 主成分分析 主成分分析（principal components analysis）是在不丢掉原来主要信息的前提下，从多个数值变量（指标）之间的相互关系入手，利用降维的思想，将原来的多个（如m个）指标组合成少数几个（如p个，p m）互不相关的综合指标的统计方法。 一、主成分分析的数学模型 设有m个指标X1，X2，…，Xm，欲寻找可以概括这m个指标主要信息的综合指标Z1,Z2,…,Zm，从数学上讲，就是寻找一组常数ai1,ai2,…,aim（i=1，2，…，m），使这m个综合指标的线性组合： 能够概括原指标X1，X2，…，Xm的主要信息，且新指标Z1,Z2,…,Zm互不相关。 求出的常数ai1,ai2,…,aim（i=1，2，…，m）必须满足： 1.当i≠j 时，Zi与Zj的相关系数为0，即各综合指标之间互不相关。 2.Var(Z1)≥Var(Z2)≥…≥Var(Zm)，Var(Zi)表示Zi的方差，i=1，2，…，m。 Zi（i=1，2，…，m）称为原始指标X1，X2，…，Xm的第i主成分。按各主成分所提供信息大小的顺序分别称Z1为第一主成分，Z2为第二主成分，…,Zm为第m主成分。 最多可求得m个主成分，这时，m个主成分反映了m个原始指标所提供的全部信息。 二、主成分的求法 假设收集到的原始数据共有n例，每例测得m个指标的数值，原始数据如表。 Xnm … Xn2 Xn1 n ┆ ┆ ┆ ┆ ┆ X2m … X22 X 21 2 X1m … X12 X11 1 Xm … X2 X1 观测指标 样本号 表17-1 主成分分析的原始数据表 1.按公式17-2对各原始指标数据进行标准化 j=1，2，…，m 其中 是第j个指标数据的均值， Sj是第j个指标数据的标准差。 为了方便，仍然用Xij表示标准化后的指标数据。X为标准化后的数据矩阵，则 2.求出标准化指标变量之间的相关系数和X的相关矩阵R。 3.求出相关矩阵R的特征值（eigenvalue）和特征值所对应的特征向量（eigenvector）。 可求得m个非负特征值，将这些特征值按从大到小的顺序排列为 λ1≥λ2≥…≥λm≥0 再解得每一个特征值λi对应的单位特征向量ai=(ai1,ai2,…,aim)’,从而求得各主成分： i=1，2，…，m 三、主成分的性质 1. 各主成分互不相关，即当i≠j 时，Zi与Zj的相关系数=0。 2. Var(Zi)=λi，i=1，2，…，m。 由于λ1≥λ2≥…≥λm≥0，所以Var(Z1)≥Var(Z2) ≥…≥Var(Zm)。 3. 总方差保持不变。即各原始指标X1，X2，…，Xm的方差和与各主成分Z1,Z2,…,Zm的方差和相等 4. 因子载荷（factor loading）反映了主成分Zi与原始指标Xj之间联系的密切程度与作用的方向。 四、主成分个数的确定 1.主成分的贡献率和累计贡献率 主成分分析是把m个原始指标X1，X2，…，Xm的总方差分解为m个互不相关的综合指标Z1,Z2,…,Zm的方差之和，并使第一主成分的方差λ1达到最大。 表明了第一主成分Z1的方差在全部方差中所占的比值，称为第一主成分的贡献率，这个值越大，表明指标Z1综合原始指标X1，X2，…，Xm的能力越强 一般地，称 为第 i 主成分的贡献率（i=1，2，…，m） ； 而称 为前 p 个主成分的累计贡献率（p≤m） 。 2.主成分个数的确定 主成分的保留个数按以下原则来确定： （1）以累积贡献率来确定：当前p个主成分的累计贡献率达到某一特定的值时（一般以大于70%为宜），则保留前p个主成分。 （