第一讲 主成分和因素分析.pptVIP

第一讲 主成份分析与因素分析 第一节 主成份分析原理 第二节 因素分析原理 第三节 SPSS的因素分析 第四节 因素分析例 学习目标 主成份分析与因素分析的基本概念和目的。 主成份分析与因素分析的差异和关系。 主成份分析与因素分析的计算原理。 协方差矩阵与相关矩阵进行主成份分析的差异。 各种因素提取与因素转轴方法及其比较。 因素命名的原則。 载荷量、特征值、共同性和解释变异量彼此的关系。 SPSS的Factor程序与介面如何操作。 SPSS如何处理Factor程序的矩阵数据。 SPSS的各种因素分析应用实例。 第一节 主成份分析原理 一、主成份分析的基本概念 二、主成份的提取 三、主成份分析的特点与观念 一、主成份分析的基本概念(1/2) 如将变量减少成少数几个变量的线性组合变量，即潜在变量或成份，就必须使用主成份分析。 主成份分析法是将数据中原有的p个变量做线性组合得到k个新变量。通常k比p小很多。 主成份分析法的另一项功能是能将彼此间具有相关关系的p个变量，经过线性组合后成为k个彼此间相关关系为0的新变量，此过程称为提取（Extraction）。 使经由线性组合而得到的成份的方差最大，使观测值在这些成份上显示出最大的个別差异来。 一、主成份分析的基本概念(2/2) 主成份分析除了用来简化变量间的关系外，还用来缩减某一组欲进行多变量分析的变量的数目。 主成份分析也可将各变量的原始分数转为主成份分数，以供进一步的统计分析。 主成份分析还可用来建构多种具有不同衡量单位变量的综合指标。 主成份亦可根据其附荷量来对主成份命名。 例如：以身高与体重来建构「块头」指标、以成长率与市场占有率来建构「营销绩效」指标。 二、主成份的提取 (1/2) 1、计算相关矩阵或协方差矩阵估计共同性(community，)：若是相关矩阵则共同性设为1；若是协方差矩阵则共同性为各变量的方差。 2 、从相关矩阵或协方差矩阵中提取主成份。 3、决定因素的数目。 4、因素命名与结果解释。 二、主成份的萃取 (2/2) 假设有p个数字变量，则可计算出p个主成份。 共同性会等于1，亦即沒有误差项，故此公式不写出误差项。 主成份分析重视的是「方差」，因素分析重视的则是「协方差」。为使方差达到最大，通常进行主成份分析后不再转轴，而因素分析則需要转轴。 主成份分析使观察值在这些主成份显示出最大的个別差异。因素分析的目的是找出共同性。 主成份提取的运算原理 使组合 ，在 下， Var(y)=a??a最大的解a是矩阵?的最大特征值（eigenvalue）所对应的特征向量（eigenvector） 最大特征值所对应的特征向量a是使Var(y)=a??a最大的解。 假设本例有身高和体重两个变量，为了提高每位学生的分辨能力，要使线性组合 的方差愈大愈好。在 的限制下，找 、 值使 最大。 主成份分析可使用协方差矩阵，亦可使用或相关系数矩阵进行分析，一般当单位不同时以使用相关系数矩阵较佳。 以协方差矩阵来提取主成份 ?通常是未知的，故以求出样本协方差矩阵S代替? 。 以相关系数矩阵来提取主成份 以相关矩阵R取代协方差矩阵S，再求特征值、特征向量。 以S和R做主成份分析的结果可能会有很大的差別，以S做主成份分析，容易受使用变量单位的影响。在SPSS的FACTOR程序中的Extraction框中，尽量勾选Correlation(R)非Covariance(S)。 主成份分析的特点与观念 （一）正交性。 （二）特征值就是主成分的方差。 （三）所有主成份的方差总和与所有变量的方差总 和相等。 （四）主成份解释的方差比例。 （五）主成份载荷（loading）。 （六）共同性（Communality，h2）。 （七）主成份分数（Score）。 正交性 1、第j个特征向量（即系数向量）与第j－1个特征向量正交：亦即 。 在本例中， 。 2、第j个主成份与第j－1个主成份正交：亦即 特征值就是主成份的方差 在本例中 同理可得 所有主成份的方差总和与所有变量方差总和相等 在本例中 而且可得 主成份解释的方差比例 在本例中，1.814+.186=2。 主成份载荷（loading） 主成份载荷指第j个主成份 与第i个变量