降维技术知识-因子分析之一.pptVIP

（6.39） 显然 的主对角线上的元素依次为 ；而 的主对角线上的元素依次为 ，且 为非负定矩阵。 §6.2因子分析 ——因子载荷矩阵的求法 为确定因子载荷矩阵，现在可依次确定因子载 荷矩阵A 的各列，使因子载荷矩阵中各列对X 的贡献有顺序 。 因为 §6.2因子分析 ——因子载荷矩阵的求法 所以 （6.41） 下面先来确定因子分析数学模型中的公共因子 ，显然我们希望 对 的影响最大（贡献最大），即是要求 在满足 §6.2因子分析 ——因子载荷矩阵的求法 条件下取得最大，这是一个条件极值问题，应用Lagrange乘数法，有 （6.42） 式中 称为拉格朗日乘数因子，Q 为一增广函数，因子载荷为未知量。 §6.2因子分析 ——因子载荷矩阵的求法 现在分别求Q 关于 及 的偏导数，并令其为0，于是有 （6.43） （6.44） （6.43）与（6.44）式可写成统一形式 （6.45） §6.2因子分析 ——因子载荷矩阵的求法 第六章 降维技术 因子分析 §6.2 因子分析——什么是因子分析 因子分析是主成分分析的进一步发展，是一种很好的降维技术，它是用较少个数的公共因子的线性函数和特定因子之和来表达原来观测的每个变量，以便达到合理地解释存在于原始变量间的相关性和简化变量的个数的目的，因子分析还可根据因子得分对变量或者样品进行分类。 在实际问题中，由样本观测数据阵出发分析出变量的公共因子与特殊因子从而研究变量间的相互关系称为R型因子分析。如果由样本观测数据出发，建立样品的公共因子与特殊因子，从而研究样品之间的相互关系称为Q型因子分析。下面重点介绍R型因子分析。 因子分析的方法最初是应用在教育心理学上，英国心理学家C.Spearman于1904年发表了对学生考试成绩分析的著名文章，可以认为是因子分析方法的开始。 §6.2 因子分析——什么是因子分析 由表6.6中的数值可以看出，前三种中每两科之间相关系数较大，后三科中每两科之间相关系数也较大，但前三科与后三科之间的相关系数都很小，这表明，用六个科目来考察学生的知识水平，实际可分为二大科目来考察学生知识水平，即前三科可列为语文能力的考察，后三科可列为数学能力的考察。称语文能力和数学能力为反映学生成绩的两个不可观测的公共因子，并且可以认为这两个公共因子互不相关。 §6.2 因子分析——什么是因子分析 * 中国人民大学六西格玛质量管理研究中心 * （一）Charles Spearman提出因子分析时用到的例子 为了对因子分析的基本理论有一个完整的认识，我们先给出Charles Spearman 1904年用到的例子。在该例中Spearman研究了33名学生在古典语（C）、法语（F）、英语（E）、数学（M）、判别（D）和音乐（Mu）六门考试成绩之间的相关性并得到如下相关阵： §6.2 因子分析——什么是因子分析 * 中国人民大学六西格玛质量管理研究中心 * 目录 上页 下页 返回 结束 式中，为第 门科目标准化后的考试成绩，均值为0，方差为1。 为公共因子，对各科考试成绩均有影响，是均值为0，方差为1。 为仅对第 门科目考试成绩有影响的特殊因子， 与 相互独立。也就是说，每一门科目的考试成绩都可以看作是由一个公共因子（可以认为是一般智力）与一个特殊因子的和。 Spearman注意到上面相关阵中一个有趣的规律，这就是如果不考虑对角元素的话，任意两列的元素大致成比例，对C列和E列有： 于是Spearman指出每一科目的考试成绩都遵从以下形式： （6.1） §6.2 因子分析——什么是因子分析 * 目录 上页 下页 返回 结束 (6.2)式与 无关，也正与在相关矩阵中所观察到的比例关系相一致。 在满足以上假定的条件下，就有： 于是，有 （6.2） 除此之外，还可以得到如下有关 方差的关系式： §6.2 因子分析——什么是因子分析 一般来说，因子分析就是试图用最少个数的不可观测的互不 相关的公共因子的线性组合，再加上特殊因子来描述原来一组可观测的相互有关的每个变量，其目的是尽可能合理解释存在于原 始变量之间的相关性，并且简化变量的维数和结构。 §6.2 因子分析