主成分分析(数学建模)_-_副本.ppt

主成分分析 主成分分析要求： 1、主成分假定条件？ 2、主成分的方差与原始变量方差有何关系？ 3、主成分如何求解？主成分分析的结构，即线性组合的系数和方差的数学上的含义？ 4、主成分分析如何评价？ 5、主成分分析的应用。 一项十分著名的工作是美国的统计学家斯通(stone)在1947年关于国民经济的研究。他曾利用美国1929一1938年各年的数据，得到了17个反映国民收入与支出的变量要素，例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息外贸平衡等等。 在进行主成分分析后，斯通竟以97.4％的精度，用三新变量就取代了原17个变量。根据经济学知识，斯通给这三个新变量分别命名为总收入F1、总收入变化率F2和经济发展或衰退的趋势F3。更有意思的是，这三个变量其实都是可以直接测量的。斯通将他得到的主成分与实际测量的总收入I、总收入变化率?I以及时间t因素做相关分析，得到下表： 主成分分析是把各变量之间互相关联的复杂关系进行简化的分析方法。 在社会经济的研究中，为了全面系统的分析和研究问题，必须考虑许多经济指标，这些指标能从不同的侧面反映我们所研究的对象的特征，但在某种程度上存在信息的重叠，具有一定的相关性。 主成分分析试图在力保数据信息丢失最少的原则下，对这种多变量的截面数据表进行最佳综合简化，也就是说，对高维变量空间进行降维处理。 很显然，识辨系统在一个低维空间要比在一个高维空间容易得多。 1、主成分假定条件？ 2、主成分的方差与原始变量方差有何关系？ 3、主成分如何求解？主成分分析的结构，即系数和方差的数学上的含义？ 4、主成分分析如何评价？ 5、主成分分析的应用。 (1) 基于相关系数矩阵还是基于协方差矩阵做主成分分析。当分析中所选择的经济变量具有不同的量纲，变量水平差异很大，应该选择基于相关系数矩阵的主成分分析。 (2) 选择几个主成分。主成分分析的目的是简化变量，一般情况下主成分的个数应该小于原始变量的个数。关于保留几个主成分，应该权衡主成分个数和保留的信息。 (3)如何解释主成分所包含的经济意义。 满足如下的条件： 上面的四张图中，哪一种有更高的精度？原始变量的信息损失最少？ 旋转变换的目的是为了使得n个样品点在Fl轴方向上的离 散程度最大，即Fl的方差最大。变量Fl代表了原始数据的绝大 部分信息，在研究某经济问题时，即使不考虑变量F2也无损大局。经过上述旋转变换原始数据的大部分信息集中到Fl轴上，对数据中包含的信息起到了浓缩作用。 Fl，F2除了可以对包含在Xl，X2中的信息起着浓缩作用之外，还具有不相关的性质，这就使得在研究复杂的问题时避免了信息重叠所带来的虚假性。二维平面上的个点的方差大部分都归结在Fl轴上，而F2轴上的方差很小。Fl和F2称为原始变量x1和x2的综合变量。F简化了系统结构，抓住了主要矛盾。 §3 主成分的推导 一、线性代数的结论 上述矩阵的特征根所对应的单位特征向量为 当且仅当a1 =u1时，即 时，有最大的方差?1。因为 思考题：第k(k≤p)个特征根约为0，说明什么？ 四、原始变量与主成分之间的相关系数 五、原始变量方差被主成分的提取率 前面我们讨论了主成分的贡献率和累计贡献率，它度量了F1，F2，……，Fm分别从原始变量组（X1，X2，……XP）中提取了多少信息。 那么X1，X2，……XP各有多少信息分别主成分组（F1，F2，……，Fm）被提取了。应该用什么指标来度量？我们考虑到当讨论F1分别与X1，X2，……XP的关系时，可以讨论F1分别与X1，X2，……XP的相关系数，但是由于相关系数有正有负，所以只有考虑相关系数的平方。 定义：如果一个主成分仅仅对某一个原始变量有作用，则称为特殊成分。如果一个主成分所有的原始变量都起作用称为公共成分。 六、载荷矩阵 二、基于相关系数矩阵 如果变量有不同的量纲，则必须基于相关系数矩阵进行主成分分析。不同的是计算得分时应采用标准化后的数据。 例一 应收账款是指企业因对外销售产品、材料、提供劳务及其它原因，应向购货单位或接受劳务的单位收取的款项，包括应收销货款、其它应收款和应收票据等。出于扩大销售的竞争需要，企业不得不以赊销或其它优惠的方式招揽顾客，由于销售和收款的时间差，于是产生了应收款项。应收款赊销的效果的好坏，不仅依赖于企业的信用