数据挖掘之 主成分分析与因子分析课件教案.pptVIP

（五、六） 主成分分析与因子分析;5. 主成分分析;引例;? ; 主成分分析是把各变量之间互相关联的复杂关系进行简化分析的方法。 在社会经济的研究中，为了全面系统地分析和研究问题，必须考虑许多经济指标，这些指标能从不同的侧面反映我们所研究的对象的特征，但在某种程度上存在信息的重叠，具有一定的相关性。 ;5.1 数学描述;X的方差（方差—协方差矩阵）为;其中;主成分分析的目标就是求原来变量的线性组合Yi：;而且使得 满足;注：主成分分析的目标;5.2 几何解释示例;由图可以看出这n个样本点无论是沿着Xl 轴方向或X2轴方向都具有较大的离散性，其离散的程度可以分别用观测变量Xl 的方差和X2 的方差定量地表示。显然，如果只考虑Xl和X2 中的任何一个，那么包含在原始数据中的经济信息将会有较大的损失。 ;如果我们将Xl 轴和X2轴先平移，再同时按逆时针方向旋转?角度，得到新坐标轴Yl和Y2。Yl和Y2是两个新变量。;; 旋转变换的目的是为了使得n个样品点在Yl轴方向上的离散程度最大，即Yl的方差最大。变量Yl代表了原始数据的绝大部分信息，在研究某经济问题时，即使不考虑变量Y2也无损大局。经过上述旋转变换原始数据的大部分信息集中到Yl轴上，对数据中包含的信息起到了浓缩作用。;;?;; Yl，Y2除了可以对包含在Xl，X2中的信息起着浓缩作用之外，还具有不相关的性质，这就使得在研究复杂的问题时避免了信息重叠所带来的虚假性。二维平面上的各点的方差大部分都归结在Yl轴上，而Y2轴上的方差很小。Yl和Y2称为原始变量X1和X2的综合变量。Y简化了系统结构，抓住了主要矛盾。 ;5.3 有关矩阵知识的回顾; 2、若上述矩阵A的各特征根所对应的单位特征向量为 ;5.4 主成分的计算结论;（3）按下法求主成分Yi： ;进一步展开的表达式是;（2）Y与X的协方差矩阵的对角线上的元素之和相等，即trCOV(Y)=trCOV(X)，这表明没有方差的损失，并且 （3） trCOV(Y)= =k 若取?1， ?2，…, ?q，使 (?1+?2+ …+?q)/(?1+?2+ …+?k) ≥85%;精度分析; 我们进行主成分分析的目的之一是希望用尽可能少的主成分Y1，Y2，…，Ys（s≤k）代替原来的k个指标。到底应该选择多少个主成分，在实际工作中，采用的主成分个数s的多少取决于它们是否能够反映原来变量85%以上的信息量，即当累积贡献率≥85%时, 主成分的个数就足够了。一些常见的问题中主成分为2到3个。;5.5 一个简单的等价算法;由X的原来数据所求得的相关系数矩阵Rk? k = 标准化后的协方差矩阵Cov(x)。;对于步骤（3），也可以按如下方式进行：;例 在企业经济效益的评价中,涉及的指标往往很多.为了简化系统结构,抓住经济效益评价中的主要问题,我们可从原始数据矩阵出发求出主成分.在对我国部分省、市、自治区独立核算的工业企业的经济效益评价中,涉及到9项指标,X1—100元固定资产原值实现产值,X2—100元固定资产原值实现利税,X3—100元资金实现利税,X4—100元工业总产值实现利税,X5—100元销售收入实现利税,X6—每吨标准煤实现工业产值,X7—每千瓦时电力实现工业产值,X8—全员劳动生产率,X9—100元流动资金实现产值(数据见EX主成分分析);;;;Y1=0.928*x1+0.977*x2+0.935*x3+0.232*x4 +0.460*x5+0.934*x6+0.894*x7+0.959*x8+0.904*x9 Y2=-0.329*x1+0.150*x2+0.310*x3+0.873*x4 +0.568*x5-0.210*x6-0.288*x7-0.01679*x8-0.174*x9;6. 因子分析; 但消费者主要关心的是三个方面，即商店的环境、商店的服务和商品的价格。因子分析方法可以通过24个变量，找出反映商店环境、商店服务水平和商品价格等少数几个潜在的因子（例如三个），对商店进行综合评价。而原来变量可用这三个公共因子可以表示为：;因子分析的主要作用：;注： 因子分析与回归分析不同，因子分析中的因子是一个比较抽象的概念，而回归分析中的因子有非常明确的实际意义； 主成分分析与因子分析也有不同，主成分分析仅仅是变量变换，而因子分析需要构造因子模型。 主成分分析:原始变量的线性组合表示新的综合变量，即主成分； 因子分析：潜在的假想变量和随机影响变量的线性组合表示原始变量。