SAS学习系列34.-因子分析.pdfVIP

SAS学习系列 34.- 因子分析 34. 因子分析 （一）基本原理 一、概述 因子分析， 是用少数起根本作用、 相互独立、 易于解释通常又是 不可观察的因子来概括和描述数据， 表达一组相互关联的变量。 通常 情况下，这些相关因素并不能直观观测。 因子分析是从研究相关系数矩阵内部的依赖关系出发， 把一些具 有错综复杂关系的变量归结为少数几个综合因子的一种多变量统计 分析方法。 简言之，即用少数不可观测的隐变量来解释原始变量之间 的相关性或协方差关系。 因子分析的作用是减少变量个数，根据原始变量的信息进行重 组，能反映原有变量大部分的信息； 原始部分变量之间多存在较显著 的相关关系，重组变量（因子变量）之间相互独立；因子变量具有命 名解释性，即该变量是对某些原始变量信息的综合和反映。 主成分分析是因子分析的特例。 主成份分析的目标是降维， 而因 子分析的目标是找出公共因素及特有因素，即公共因子与特殊因子。 因子分析模型在形式上与线性回归模型相似，但两者有着本质 的区别：回归模型中的自变量是可观测到的， 而因子模型中的各公因 子是不可观测的隐变量，而且两个模型的参数意义也不相同。 二、原理 假设样品检测 p 个指标（变量） X 1, …, Xp ，得到观测矩阵 X ，这 p 个指标变量可能受 m( mp) 个共同因素 f , …f的影响，再加上其它 1 m 影响因素。表示为： 用矩阵表示为 X A f e p 1 p m m 1 p 1 其中，共同影响因素 f , …f是均值为 0 方差为 1 的随机变量，称为 1 m 公共因子； A 称为因子载荷矩阵， a 是第 j 变量在第 i 公共因子上 p×m ji 的负荷，即 X 在坐标轴 f 上的投影； e 是变量 X 所特有的因子，均 j i i i 2 值为 0 方差为 σ，称为特殊因子。各特殊因子之间及特殊因子与公 i 共因子之间都是相互独立的，即 COV( e , e)=0, COV( e, f)=0. i j 因子分析就是用 f , …f代替 X , …, X , 达到降维的目的。 1 m 1 p 主成份分析中，残差通常是彼此相关的。因子分析中，特殊因 子起到残差的作用， 但被定义为彼此不相关且和公因子也不相关。 而 且每个公因子假定至少对两个变量有贡献，否则它将是一个特殊因 子。 在开始提取公共因子时，已假定它们彼此不相关且具有单位方 差。故向量 X 的协方差矩阵 Σ可以表为 T