SPSS主成分分析.pptVIP

* * §1 主成分分析的基本思想 一项十分著名的工作是美国的统计学家斯通 (Stone) 在1947年关于国民经济的研究。他曾利用 美国1929一1938年各年的数据，得到了17个反映国民收入与支出的变量要素，例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息外贸平衡等等。 在进行主成分分析后，竟以97.4％的精度，用 三新变量就取代了原17个变量。根据经济学知识， 斯通给这三个新变量分别命名为总收入F1、总收入 变化率F2和经济发展或衰退的趋势F3。更有意思的是， 这三个变量其实都是可以直接测量的。斯通将他得到 的主成分与实际测量的总收入I、总收入变化率?I以及 时间t因素做相关分析，得到下表： ? F1 F2 F3 i i t F1 1 ? ? ? ? ? F2 0 1 ? ? ? ? F3 0 0 1 ? ? ? i 0.995 -0.041 0.057 l ? ? i -0.056 0.948 -0.124 -0.102 l ? t -0.369 -0.282 -0.836 -0.414 -0.112 1 (1) 基于相关系数矩阵还是基于协方差矩阵 做主成分分析。当分析中所选择的经济变量具有不同的量纲，变量水平差异很大，应该选择基于相关系数矩阵的主成分分析。 （2） 选择几个主成分。主成分分析的目的是简化变量，一般情况下主成分的个数应该小于原始变量的个数。关于保留几个主成分，应该权衡主成分个数和保留的信息。 （3）如何解释主成分所包含的经济意义。 x1 x2 y1 y2 §2主成分分析的几何意义 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 主成分分析的几何解释 平移、旋转坐标轴 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 主成分分析的几何解释 平移、旋转坐标轴 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 主成分分析的几何解释 平移、旋转坐标轴 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 主成分分析的几何解释 平移、旋转坐标轴 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 按逆时针方向旋转?角度，得到新坐标轴Fl和F2。 Fl和F2是两个新变量。 根据旋转变换的公式： 旋转变换的目的是为了使得n个样品点在Fl轴方 向上的离 散程度最大，即Fl的方差最大。变量Fl代表 了原始数据的绝大 部分信息，在研究某经济问题时， 即使不考虑变量F2也无损大局。经过上述旋转变换 原始数据的大部分信息集中到Fl轴上，对数据中包含 的信息起到了浓缩作用。 Fl，F2除了可以对包含在Xl， X2中的信息起着浓缩作用之外，还具有不相关的性质， 这就使得在研究复杂的问题时避免了信息重叠所带来 的虚假性。二维平面上的个点的方差大部分都归结在 Fl轴上，而F2轴上的方差很小。Fl和F2称为原始变量 x1和x2的综合变量。F简化了系统结构，抓住了主要 矛盾。 §2 数学模型与几何解释 假设我们所讨论的实际问题中，有p个指标，我们把这p个指标看作p个随机变量，记为X1，X2，…，Xp，主成分分析就是要把这p个指标的问题，转变为讨论p个指标的线性组合的问题，而这些新的指标F1，F2，…，Fk(k≤p），按照保留主要信息量的原则充分反映原指标的信息，并且相互独立。 这种由讨论多个指标降为少数几个综合指标的过程 在数学上就叫做降维。主成分分析通常的做法是， 寻求原指标的线性组合Fi。 主成分之间相互独立，即无重叠的信息。即 主成分的方差依次递减，重要性依次递减，即 每个主成分的系数平方和为1。即 满足如下的条件： 1、若A是p阶实对称阵，则一定可以找到正交阵U，使 §3 主成分的推导及性质 其中 是A的特征根。 则实对称阵 A 属于不同特征根所对应的特征向量是正交的，即有 令 2、若上述