典范相关分析课件.ppt

1、导言 20世纪初，Karl Pearson Charles Spearman 就开始用此方法分析一些问题，后者曾对一些学生的考试成绩进行分析。根据这些变数（成绩）及其它们之间的相互关系，用少量但本质的成分如：理解力、逻辑思维能力、记忆力等来说明学生的考试成绩。一开始由于涉及智力和精神分析方面的解释，带有一点神秘感，另加上计算繁琐的阻滞，此法一经提出，未见有多大进展。计算机的出现和广泛使用，因子分析计算量大的问题基本得到解决，再加上软件的普遍使用，因子分析的应用有所抬头，经常看到有关因子分析的文献。因子分析的基本目的在于通过变数之间的相互关系，可能的话，用少量不可观察的(unobservable)、但起根本性作用(underlying)的因子(factors)来描述。 田径运动中运动员在各项目的表现，如短跑、跳高、跳远、中长跑、铅球、铁饼、标枪的成绩，能否可以分解为几个基本因子如速度、爆发力、弹跳力和耐力所组成，即这些项目的成绩可以用速度、爆发力等因子的线性组合所表述。某些运动员若在某些能力上较弱，可以针对性地加以训练，以便收取较好效果。同样，学生的考试成绩可以用理解力、逻辑思维能力、记忆力等因子的线性组合所表达。也能对某些能力缺陷进行重点训练、培养。或，组织人事部门能掌握（洞察）有关人员的不可观察的但起根本作用的一些能力如记忆力、语言表达能力、逻辑思维能力，就能因才施教、知人善任、人尽其才。 2、因子分析模式 设x是一个p维变数，具有平均数μ和方差Σ，x变数可由一些未知的、不可观察的、具有本质作用的m个公共因子(F1, F2, ..., Fm, mp)再加上p个特殊因子的线性可加模型所表示： 系数lij称为第i个变数在第j个因子上的负荷量(loading)，L称为因子负荷量矩阵(matrix of factor loadings)。F1, F2, ..., Fm对所有xi都有作用（如果有作用的话），称为公共因子（common factors），而特异因子εi只与第i个变数有关，称为特殊（异）因子（special factor）。 p个变数的离差 x1-μ1, x2-μ2, ..., xp-μp, 是以p+m个变数F1, F2, ..., Fm+ε1, ε2, ..., εp所表达，而这m+p个起根本作用的因子又是不可观察的，因此，解出这L, F, ε是比较困难的，必须加一些条件： ⅰ F与ε是独立的：cov(F, ε)=0m×p E(F)=0, V(F)=I E(ε)=0, V(ε)=diag(e1,e2, ..., ep)=E ⅱ V(x-μ)=V(LF+ε)=LV(x-μ)L’+V(ε)+2cov(LF, ε) =LIL’+E+2Lcov(F, ε)=LL’+E ⅲ cov(x, F)=cov(x-μ, F)=cov(LF+ε, F) =Lcov(F, F)+cov(ε, F)=LI+0=L ⅳ V(x)=Σ= LL’+E 上述模式是p个变数的由m个公共因子的线性表达。如果p个变数实际上与基本因子是有关的，但不一定成线性，则上述表述不一定正确。但线性模型是最简单的，也能说明较多的问题，因此这一线性模型应用最广泛，可视为经典模型。 再回头看上式： x变数的方差可分解成两部分，其 与公共因子有关，称为公因子方差(communality, ) 由特异因子所引起的方差为特异因子方差(special variance，ei）。 对一组p维x数据，能否用尽可能少的公共因子F来说明，即求出L, E来，其中mp。 当m=p时，Σ能精确地分解为LL’，但此时的E是个0矩阵，这一般也没有多大用处。只有当mp时，因子分析才较为有用。且m越小，以越少的公共因子说明原x变数的信息，因子分析才越有用。 一般而言，Σ不能精确地分解为LL’+E，尤其是因子数m远小于p时，这样的分解难于实现，这就给因子分析的应用带来问题。 另外，当m1时，有时因子模式也会产生不确定的结果。若T是m×m的正交矩阵: F与F*具有相同的统计学性质。虽然L与L*不同，但它们也可产生相同的协方差： 其中正交矩阵T可称为旋转矩阵，它给我们带来了因子负荷量矩阵不确定的问题，但也给出了因子旋转原理，由于正交矩阵对应于x坐标轴系统的旋转，找到合适的旋转矩阵，能帮助我们对因子进行旋转，这对因子的合理解释有较好地作用。 3、估计方法 给出p个相关的变数：x1, x2, ..., xp以及由此得到的方差协方差阵Σ，因子分析寻求解答这样的问题，是否这些因子模式（具有少数几个因子），正确地表达这些数据。一是要估计合适的因子数m，二是确定合适的因子负荷量矩阵L，三是估计特殊方差E。 样本方差协方差阵S是Σ的估计，一般因子分析是从S