7.因子分析new PPT.ppt

1 因子分析 2 §1 引言 因子分析(factor analysis)是一种数据简化的技术。它通过研究众多变量之间的内部依赖关系，探求观测数据中的基本结构，并用少数几个假想变量来表示其基本的数据结构。这几个假想变量能够反映原来众多变量的主要信息。原始的变量是可观测的显在变量，而假想变量是不可观测的潜在变量，称为因子。 例如，在企业形象或品牌形象的研究中，消费者可以通过一个有24个指标构成的评价体系，评价百货商场的24个方面的优劣。 3 但消费者主要关心的是三个方面，即商店的环境、商店的服务和商品的价格。因子分析方法可以通过24个变量，找出反映商店环境、商店服务水平和商品价格的三个潜在的因子，对商店进行综合评价。而这三个公共因子可以表示为： 称 是不可观测的潜在因子。24个变量共享这三个因子，但是每个变量又有自己的个性，不被包含的部分 ，称为特殊因子。 4 注： 因子分析与回归分析不同，因子分析中的因子是一个比较抽象的概念，而回归因子有非常明确的实际意义； 主成分分析分析与因子分析也有不同，主成分分析仅仅是变量变换，而因子分析需要构造因子模型。 主成分分析:原始变量的线性组合表示新的综合变量，即主成分； 因子分析：潜在的假想变量和随机影响变量的线性组合表示原始变量。 5 § 2 因子分析模型 一、数学模型 8 用矩阵的表达方式 9 二、因子分析模型的性质 1、原始变量X的协方差矩阵的分解 D的主对角线上的元素值越小，则公共因子共享的成 分越多。 10 2、模型不受计量单位的影响 将原始变量X做变换X*=CX,这里 C＝diag(c1,c2,…,cn),ci0。 11 12 3、因子载荷不是惟一的 设T为一个p×p的正交矩阵，令A*=AT，F*=T’F，则模型可以表示为 且满足条件因子模型的条件 13 三、 因子载荷矩阵中的几个统计特征 1、因子载荷aij的统计意义 ,再求数学期望 根据公共因子的模型性质，有 （载荷矩阵中第i行，第j列的元素）反映了第i个变量与第j个公共因子的相关重要性。绝对值越大，相关的密切程度越高。 14 2、变量共同度的统计意义 定义：变量 的共同度是因子载荷矩阵的第i行的元素的平方和。记为 统计意义： 两边求方差 所有的公共因子和特殊因子对变量 的贡献为1。如果 非常靠近1， 非常小，则因子分析的效果好，从原变量空间到公共因子空间的转化性质好。 15 3、公共因子 方差贡献的统计意义 16 § 3 因子载荷矩阵的估计方法 设随机向量 的均值为，协方差为, 为的特征根， 为对应的 标准化特征向量，则 （一）主成分分析法 17 上式给出的表达式是精确的，然而，它实际上是毫无价值的，因为我们的目的是寻求用少数几个公共因子解释，故略去后面的p-m项的贡献，有 18 上式有一个假定，模型中的特殊因子是不重要的，因而从的分解中忽略了特殊因子的方差。 19 注：残差矩阵 其中S为样本的协方差矩阵。 20 （二）主因子法 主因子方法是对主成分方法的修正，假定我们首先对变量进行标准化变换。则 R=AA’+D R*=AA’=R-D 称R*为约相关矩阵， R*对角线上的元素是 , 而不是1。 21 直接求R*的前p个特征根和对应的正交特征向量。得如下 的矩阵： 22 23 24 在实际的应用中，个性方差矩阵一般都是未知的， 可以通过一组样本来估计。估计的方法有如下几种： 首先，求 的初始估计值，构造出 1）取 ，在这个情况下主因子解与主成分解等价； 2）取 ， 为xi与其他所有的原始变量xj的复相关系数的平方，即xi对其余的p-1个xj的回归方程的判定系数，这是因为xi 与公共因子的关系是通过其余的p-1个xj 的线性组合联系起来的； 25 2）取 ，这意味着取xi与其余的xj的简单相关系数的绝对值最大者； 4）取 ，其中要求该值为正数。 5）取 ，其中 是 的对角元素。 26 （三）极大似然估计法（略）