09主成分与因子技巧.ppt

因子得分的协差阵 Component Score Covariance Matrix Component 1 2 1 1.000 .000 2 .000 1.000 Extraction Method: Principal Component Analysis. Rotation Method: Varimax with Kaiser Normalization. 根据因子分析的数学模型，因子得分的协差阵应该是单位阵 11.2 主成分分析 Hotelling于1933年首先提出 主要思想 通过线性组合的方式从多个具有一定相关性的变量中尽可能快地提取信息 当一个线性组合不能提取更多的信息时，再考虑用第二个线性组合继续这个快速提取的过程，，直到所提取的信息与原指标相差不多时为止 优点 通过较少的主成分得到较多的信息量 与因子分析的区别 用各个变量的线性组合表示主成分，并非用因子表示变量 不需要类似于各个因子之间不相关等的假设条件 与因子分析的联系 都需要对指标进行正向化和标准化 都需要判断相关系数矩阵变量间的相关性 求特征值和特征向量 11.2.1 主成分分析的理论与方法 主成分分析的数学模型 主成分分析的几何意义 主成分分析的作用 主成分分析的求解步骤 主成分分析的数学模型 用原始数据矩阵的个变量作线性组合用矩阵表示为：Y=UX满足： 矩阵的每一行都是单位行向量 Yi与Yj之间不相关 Y1是X1,…,XP的一切组合中方差最大的，Y2是与Y1不相关的X1,…,XP的一切组合中方差最大的，Ym是与Y1,…,Ym-1都不相关的X1,…,XP的一切组合中方差最大的 主成分分析的几何意义 二维变量的情况 二维空间中的变量由横坐标和纵坐标表示 这些数据形成一个椭圆形状的点阵 椭圆短轴方向上，数据变化很少 极端情况，短轴退化成一点，只有在长轴的方向上才能解释这一点的变化，二维到一维的降维完成 坐标轴和椭圆的长、短轴平行 长轴的变量描述数据的主要变化，短轴的变量描述数据的次要变化 坐标轴不和椭圆的长、短轴平行 寻找椭圆的长、短轴，进行变换，使新变量和椭圆的长、短轴平行 多维变量的情况 表现为高维椭球，无法直观看见 找出高维椭球主轴，用代表大多数信息的最长的几个轴作为新变量 主成分分析基本上完成 二维椭圆有两个主轴，三维椭球有三个主轴，有几个变量，就有几个主成分 主成分分析的作用 主成分分析能降低所研究的数据空间维数 可通过因子负载的结论，弄清变量间的某些关系 主成分分析可以作为多维数据的一种图形表示方法 可以由主成分分析法构造回归模型 用主成分分析筛选回归变量 主成分分析的求解步骤 指标数据的标准化 指标之间的相关关系判定 确定主成分个数 确定主成分的表达式 为主成分命名 11.2.2 主成分分析的SPSS应用 利用SPSS进行因子分析 利用因子分析结果进行主成分分析 计算主成分 利用SPSS进行因子分析 Analyze→Data Reduction→Factor 使用与因子分析相同的原始数据 Component Matrixa Component 1 2 J.school above % .892 .255 urban % .891 .370 average income .870 .347 multi-parity % -.762 .554 contraception % .568 -.768 Extraction Method: Principal Component Analysis. a. 2 components extracted. 作为原是变量输入SPSS数据窗口进行主成分分析 注意变量顺序 利用因子分析结果进行主成分分析 Transform→Compute 若提取的因子个数较多，以此类推 手动输入 第一个因子对应的特征根 特征向量矩阵 Id a1 a2 t1 t2 1 -0.762 0.554 -0.423 0.502 2 0.568 -0.768 0.315 -0.695 3 0.892 0.255 0.495 0.231 4 0.870 0.347 0.483 0.314 5 0.891 0.370 0.494 0.335 主成分表达式 计算主成分 标准化原始变量X1～X5 Analyze→Descriptive Statistics→DescriptivesTransform→Compute 在对话框中输入等式 标准化后变量保存在数据文件中 主成分表 Id y1 y2 Id y1 y2 1 -0.419 -0.837 16 -0.419 -0.837 2 -0.068 -0.110 17 -0.068 -0.110 3 -0.497 -0.758 18 -0.497 -0.758 4 0.064