sas学习系列34.因子分析.pdfVIP

-

34.因子分析

〔一〕根本原理

一、概述

因子分析，是用少数起根本作用、相互独立、易于解释通常又是

不可观察的因子来概括和描述数据，表达一组相互关联的变量。通常

情况下，这些相关因素并不能直观观测。

因子分析是从研究相关系数矩阵部的依赖关系出发，把一些具有

错综复杂关系的变量归结为少数几个综合因子的一种多变量统计分

析方法。简言之，即用少数不可观测的隐变量来解释原始变量之间的

相关性或协方差关系。

因子分析的作用是减少变量个数，根据原始变量的信息进展重组，

能反映原有变量大局部的信息；原始局部变量之间多存在较显著的相

关关系，重组变量〔因子变量〕之间相互独立；因子变量具有命名解

释性，即该变量是对*些原始变量信息的综合和反映。

主成分分析是因子分析的特例。主成份分析的目标是降维，而因

子分析的目标是找出公共因素及特有因素，即公共因子与特殊因子。

因子分析模型在形式上与线性回归模型相似，但两者有着本质的

区别：回归模型中的自变量是可观测到的，而因子模型中的各公因子

是不可观测的隐变量，而且两个模型的参数意义也不一样。

二、原理

假设样品检测p个指标〔变量〕*,…,*，得到观测矩阵*，这p

1p

个指标变量可能受m(mp)个共同因素f,…f的影响，再加上其它影

1m

.z.

-

响因素。表示为：

用矩阵表示为

其中，共同影响因素f,…f是均值为0方差为1的随机变量，称为公

1m

共因子；A称为因子载荷矩阵，a是第j变量在第i公共因子上的

p×mji

负荷，即*在坐标轴f上的投影；e是变量*所特有的因子，均值为0

jiii

方差为σi2，称为特殊因子。各特殊因子之间及特殊因子与公共因子

之间都是相互独立的，即COV(e,e)=0,COV(e,f)=0.

ij

因子分析就是用f,…f代替*,…,*,到达降维的目的。

1m1p

主成份分析中，残差通常是彼此相关的。因子分析中，特殊因子

起到残差的作用，但被定义为彼此不相关且和公因子也不相关。而且

每个公因子假定至少对两个变量有奉献，否则它将是一个特殊因子。

在开场提取公共因子时，已假定它们彼此不相关且具有单位方差。

故向量*的协方差矩阵Σ可以表为

T

Σ=D(*)=D(Af+e)=AA+D

22

其中，D=diag(σ,…,σ).假设假定*已标准化，即每个*值为0方

1pi

差为1.则

m

记h2a2称为变量共同度，则有1h22,