第11章,主成分分析法课件教案.pptVIP

主成分分析; 实际问题中，同一个总体的p个指标之间往往存在着相关关系。主成份分析的主要目的是在这p个指标中寻找几个相互无关的综合性指标，使这几个综合性的指标性能反应出原来p个指标的信息。这些综合指标就是主成份。;§2 数学模型与几何解释;主成分分析通常的做法，是寻求原指标的线性组合yi：;(2) 主成分之间相互无关，即无重叠的信息。即;?;?;?; 将xl 轴和x2轴先平移，再同时按逆时针方向旋转?角度，得到新坐标轴Fl和F2，则; 旋转变换的目的是为了使得n个样品点在Fl轴方向上的离散程度最大，即yl的方差最大。变量yl代表了原始数据的大部分信息，在研究某些实际问题时，即使不考虑变量y2也无损大局。经过上述旋转变换原始数据的大部分信息集中到Fl轴上，对数据中包含的信息起到了浓缩作用。; yl，y2除了可以对包含在Xl，X2中的信息起着浓缩作用之??，还具有不相关的性质，这就使得在研究复杂的问题时避免了信息重叠所带来的虚假性。二维平面上的各点的方差大部分都归结在Fl轴上，而F2轴上的方差很小。yl和y2称为原始变量x1和x2的综合变量。F简化了系统结构，抓住了主要矛盾。;§3 主成分的推导及性质 ; 2、若上述矩阵的特征根所对应的单位特征向量为 ; 二、主成分的推导 ;由于Σx为非负定的对称阵，所以存在正交阵U，使得;U是由特征根相对应的特征向量所组成的正交阵：;设有p维单位向量;第十一章 多元统计分析;y1称为第一主成分。;（二） 第二主成分;于是，对任意的p维向量a2，有; 所以如果取线性变换：;小结：方差逐步减少的p个线性无关的主成分为 ;写为矩阵形式： ;1、均值;第十一章 多元统计分析;4、贡献率与累积贡献率;累积贡献率大小反映m个主成分提取了;第十一章 多元统计分析;例: 设x1, x2, x3的协方差矩阵为 ; 第一个主成分的贡献率为5.83/（5.83+2.00+0.17）=72.875%，尽管第一个主成分的贡献率并不小，但在本题中第一主成分不含第三个原始变量的信息，所以应该取两个主成分。;5 标准化变量的主成分及其性质;在实际问题中，总体的协方差阵通常是未知的，需要由样本方差阵估计。 记样本观测阵为;则样本协方差阵S和样本相关阵R分别为;一、样本主成分及其性质;1. 主成分得分阵;注意到;由样本数据矩阵进行主成份分析的步骤;2. 样本主成分的性质;第十一章 多元统计分析;第十一章 多元统计分析