202110主成分和因子分析.ppt

? 这个表说明六个变量和因子的关系。 为简单记，我们用 x 1 , x 2 , x 3 , x 4 , x 5 , x 6 来表示 math （数学）， phys （物 理）， chem （化学）， literat （语 文）， history （历史）， english （英 语）等变量。这样因子 f 1 和 f 2 与这些 原变量之间的关系是（注意，和主成 分分析不同，这里把成分（因子）写 在方程的右边，把原变量写在左边； 但相应的系数还是主成分和各个变量 的线性相关系数，也称为因子载荷）： x 1 x 2 x 3 x 4 x 5 x 6 ? -0.387 f 1 ? 0.790 f 2 ; ? -0.172 f 1 ? 0.841 f 2 ; ? -0.184 f 1 ? 0.827 f 2 ? 0.879 f 1 - 0.343 f 2 ; ? 0.911 f 1 - 0.201 f 2 ; ? 0.913 f 1 - 0.216 f 2 这里， 第一个因子主要和语文、历 史、英语三科有很强的正相关； 而 第二个因子主要和数学、物理、化 学三科有很强的正相关 。 因此可以给第一个因子起名为 “文 科因子” ，而给第二个因子起名为 “理科因子” 。 从这个例子可以看出，因子分析的 结果比主成分分析解释性更强。 ? 这些系数所形成的散点图（在 SPSS 中也称 载荷图）为 Component Plot in Rotated Space math phys chem 1.0 .5 0.0 history english literat -.5 -1.0 -1.0 -.5 0.0 .5 1.0 Component 1 可以直观看出每个因子代表了一类学科 计算因子得分 ? 可以根据输出 Component Score Coefficient Matrix Component 1 2 .036 .377 .165 .474 .155 .462 .357 .052 .417 .151 .413 .142 MATH PHYS CHEM LITERAT HISTO RY ENGLISH Extraction Method: Principal Component Analysis. Rotation Method: Varimax with Kaiser Normalization. ? 算出每个学生的第一个因子和第二个因子的大小， 即算出 每个学生 的因子得分 f 1 和 f 2 。 ? 该输出说明第一和第二主因子为（习 惯上用字母 f 来表示因子）可以按照如 下公式计算，该函数称为因子得分 （ factor score ）。 f 1 ? 0.036 x 1 ? 0.165 x 2 ? 0.155 x 3 ? 0.357 x 4 ? 0.417 x 5 ? 0.413 x 6 f 2 ? 0.377 x 1 ? 0.474 x 2 ? 0.462 x 3 ? 0.052 x 4 ? 0.151 x 5 ? 0.142 x 6 人们可以根据这两套因子得分对学生分 别按照文科和理科排序。当然得到因子 得分只是 SPSS 软件的一个选项。 10.3 因子分析和主成分分析的一些注意事项 ? 可以看出，因子分析和主成分分析 都依赖于原始变量，也只能反映原 始变量的信息。所以原始变量的选 择很重要。 ? 另外，如果原始变量都本质上独立， 那么降维就可能失败，这是因为很 难把很多独立变量用少数综合的变 量概括。数据越相关，降维效果就 越好。 10.3 因子分析和主成分分析的一些注意事项 ? 在得到分析的结果时，并不一定会 都得到如我们例子那样清楚的结果。 这与问题的性质，选取的原始变量 以及数据的质量等都有关系 ? 在用因子得分进行排序时要特别小 心，特别是对于敏感问题。由于原 始变量不同，因子的选取不同，排 序可以很不一样。 ? 拿 student.sav 为例，选 Analyze － Data Reduction － Factor 进入主 对话框； ? 把 math 、 phys 、 chem 、 literat 、 history 、 english 选入 Variables ， 然后点击 Extraction ， ? 在 Method 选择一个方法（如果是主成分分析，则选 Principal Components ）， ? 下面的选项可以随意，比如要画碎石图就选 Scree plot ，另外在 Extract 选项可以按照特征值的大小选主成分（或因子），也可 以选定因子的数目； ? 之后回到主对话框（用 Continue ）。然后点击 Rotation ，再在该 对话框中的 Method 选择一个旋转方法（如果是主成分