主成分分析与因子分析(第20章)知识讲稿.pptVIP

第二十章 主 成 分 分 析 与 因 子 分 析;第一节 主成分分析 principal components analysis;一、基本思想 从众多原始指标之间相互关系入手，利用降 维思想，将多个变量化为几个互不相关的综 合变量。;;如何利用这些指标对每一儿童的生长发育 作出正确评价？ 1.仅用单一指标： 结论片面； 没有充分利用原有数据信息。 2.利用所有指标进行综合评价： 各指标评价的结论可能不一致，使综合 评价困难； 工作量大。; 找出几个综合指标，这些综合指标是原始 指标的线性组合，既保留了原始指标的信 息，且互不相关。 衡量一个指标的好坏除了可靠性与真实性 外，还必须能充分反映个体间的变异，一 项指标在个体间的变异越大，提供的信息 量越多。 各指标提供的信息量大小用其方差来衡量。;二、数学模型及几何意义;第二主成分（ 在剩下所有Zi中） ;X1;X1;三、主成分的求法及性质;（一）主成分的求法 1. 对各原始指标值进行标准化;标准化后的数据矩阵;2. 求出X1 , X2 , … , Xm 的相关矩阵R;3. 求出矩阵R的全部特征值(eigenvalue) ?i, 第i个主成分的组合系数ai1, ai2, ?, aim满 足方程组: (r11－ ?i) ai1+ r12 ai2+ ?+ r1m aim =0 r21 ai1+ (r22－ ?i) ai2+ ?+ r2m aim=0 ? rm1 ai1+ rm2 ai2+ ?+ (rmm－ ?i) aim =0 ; (r11－ ?i) ai1+ r12 ai2+ ?+ r1m aim =0 r21 ai1+ (r22－ ?i) ai2+ ?+ r2m aim=0 ? rm1 ai1+ rm2 ai2+ ?+ (rmm－ ?i) aim =0 ;4. 由以上方程组，求出相应于特征值 ?i 的 特征向量(eigenvector) （ai1 , ai2 , ? , aim）;（二）主成分的性质 1.各主成分互不相关 ;2.主成分的贡献率与累积贡献率 (原始指标值标准化);3.主成分个数的选取 （1）前k个主成分的累积贡献率70%。 （2）主成分Zi的特征值?i ≥ 1。 4. 因子载荷 （第i主成分Zi与第j原始指标Xi间相关系数） ;5.样品的主成分得分;四、实例;;;; 1.主成分个数的选取 ?3很接近于1； ?3 与?2的贡献率相差不大，为25%左右， 若舍去?3不合理。 取前三个主成分。;2.列出主成分表达式;3.求出因子载荷阵;4.主成分得分;标准化指标主成分还原为原始指标主成分;将测得的四项肝功能指标代入主成分表达式 Z1=2.50865 Z2=－1.06626 Z3=－1.22943 该肝病患者可能为急性炎症。;五、主成分分析的应用 1.对原始指标进行综合 以互不相关的较少个数综合指标反应原始指 标提供的信息。 主成分回归（解决多元共线问题）。 2.探索多个原始指标对个体特征的影响作用 利用因子载荷阵，找出影响各综合指标的主 要原始指标。; 3.对样品进行分类 利用主成分得分对样品进行分类： Z1为急性炎症成分 Z2为慢性炎症成分 Z3为癌变成分 注意各组之间不一定互斥，这与判别分析不 同。如表20-7中第8、9例。;第二节 因子分析 factor analysis;一、因子分析的基本思想 从分析多个可观测的原始指标的相关关系入 手，找到支配这种相关关系的有限个不可观 测的潜在变量。;二、因子分析的数学模型 ; specific factor;Xi:观测指标（标准化数据） Fi:公因子 ei:特殊因子 aij:因子载荷（计算关键项）;X = AF + e;;;三、因子模型的性质 矩阵A的统计意义 1.公共度（共性方差 ）;因子的共性方差;2.因子贡献与因子贡献率 矩阵A第j列元素 反映了第j个公 因子Fj对所有原始指标的影响; 数据标准化后全部原始指标的总方差为指 标个数m。;各因子的贡献;3.因子载荷及因子载荷阵;;2.对各指标进行标准化 3.求指标间的相关系数矩阵RX 4.求指标间的约相关系数矩阵R*