运用spss做因子分析与主成分分析 一经典教程.pptVIP

主成分分析和因子分析 主成分分析 正如二维椭圆有两个主轴，三维椭球有三个主轴一样，有几个变量，就有几个主成分。 选择越少的主成分，降维就越好。什么是标准呢？那就是这些被选的主成分所代表的主轴的长度之和占了主轴长度总和的大部分。有些文献建议，所选的主轴总长度占所有主轴长度之和的大约85%即可，其实，这只是一个大体的说法；具体选几个，要看实际情况而定。 怎么解释这两个主成分。前面说过主成分是原始六个变量的线性组合。是怎么样的组合呢？SPSS可以输出下面的表。 这里每一列代表一个主成分作为原来变量线性组合的系数（比例）。比如第一主成分作为数学、物理、化学、语文、历史、英语这六个原先变量的线性组合，系数（比例）为-0.806, -0.674, -0.675, 0.893, 0.825, 0.836。 如用x1,x2,x3,x4,x5,x6分别表示原先的六个变量，而用y1,y2,y3,y4,y5,y6表示新的主成分，那么，原先六个变量x1,x2,x3,x4,x5,x6与第一和第二主成分y1,y2的关系为： X1=-0.806y1 + 0.353y2 X2=-0.674y1 + 0.531y2 X3=-0.675y1 + 0.513y2 X4= 0.893y1 + 0.306y2 x5= 0.825y1 + 0.435y2 x6= 0.836y1 + 0.425y2 这些系数称为主成分载荷（loading），它表示主成分和相应的原先变量的相关系数。 比如x1表示式中y1的系数为-0.806，这就是说第一主成分和数学变量的相关系数为-0.806。 相关系数(绝对值）越大，主成分对该变量的代表性也越大。可以看得出，第一主成分对各个变量解释得都很充分。而最后的几个主成分和原先的变量就不那么相关了。 因子分析 主成分分析从原理上是寻找椭球的所有主轴。因此，原先有几个变量，就有几个主成分。 而因子分析是事先确定要找几个成分，这里叫因子（factor）（比如两个），那就找两个。 这使得在数学模型上，因子分析和主成分分析有不少区别。根据因子分析模型的特点，它还多一道工序：因子旋转（factor rotation）；可以使结果更好。 当然，对于计算机来说，因子分析并不比主成分分析多费多少时间。 从输出的结果来看，因子分析也有因子载荷（factor loading）的概念，代表了因子和原先变量的相关系数。但是在输出中的因子和原来变量相关系数的公式中的系数不是因子载荷，也给出了二维图；该图虽然不是载荷图，但解释和主成分分析的载荷图类似。 因子分析概述 定义：因子分析以最少的信息丢失为前提,将众多的原有变量综合成较少几个综合指标,名为因子。通常,因子有以下几个特点 因子个数远远少于原有变量的个数 因子能够反映原有变量的绝大部分信息 因子之间的线性关系不显著（即独立的） 因子具有命名解释性 因子分析的数学模型和相关概念 数学模型 相关概念 因子载荷（所有系数构成矩阵即因子载荷） 变量共同度（即变量X有多少东西饭反映了他） 因子的方差贡献（第一列平方和加起来就是对第一个因子的贡献 以此类推） 因子分析的基本内容 因子分析的基本步骤 因子分析的前提条件： 因子提取：方法是主成分法 使因子更具有命名可解释性： 计算各样本的因子得分 因子分析的前提条件 如果原有变量之间不存在较强的相关关系,那么就无法从中综合出能够反映某些变量共同特性的几个较少的公共因子。因此,一般在因子分析时需首先对因子分析的条件,即原有变量是否相关进行研究计算相关系数矩阵 常用指标：计算相关系数矩阵和利用KMO检验 因子提取和因子载荷矩阵的求解 常用方法：主成分分析法 因子提取和因子载荷矩阵的求解 计算因子载荷矩阵 后面的是特征根乘以特征向量 根据特征根确定因子数：一般选取特征值大于1的特征根，或者固定提取几个因子（根据因子的累计方差贡献率） 因子的命名 1、通过旋转使得因子的含义更清晰（因子是正向的） 计算因子得分 计算因子得分的途径是用原有变量来描述因子,第j 个因子在第i 个观测上的值可表示为： 因子得分函数 因子分析的基本操作 主成分分析与因子分析的公式上的区别 主成分分析 因子分析(mp) 因子得分 因子分析和主成分分析的一些注意事项 ?可以看出，因子分析和主成分分析都依赖于原始变量，也只能反映原始变量的信息。所以原始变量的选择很重要。 （因子要相关，不能完全独立）另外，如果原始变量都本质上独立，那么降维就可能失败，这是因为很难把很多独立变量用少数综合的变量概括。数据越相关，降维效果就越好。 在得到分析的结果时，并不一定会都得到如我们例子那样清楚的结果。这与问题的性质，选取的原始变量以及数据的质量等都有关系 在用因子得分进行排序时要特别小心，