主成分分析课件.pptVIP

§4主成分的性質一、均值二、方差為所有特徵根之和說明主成分分析把P個隨機變數的總方差分解成為P個不相關的隨機變數的方差之和。協方差矩陣?的對角線上的元素之和等於特徵根之和。三、精度分析1）貢獻率：第i個主成分的方差在全部方差中所占比重，稱為貢獻率，反映了原來P個指標多大的資訊，有多大的綜合能力。2）累積貢獻率：前k個主成分共有多大的綜合能力，用這k個主成分的方差和在全部方差中所占比重來描述，稱為累積貢獻率。我們進行主成分分析的目的之一是希望用盡可能少的主成分F1，F2，…，Fk（k≤p）代替原來的P個指標。到底應該選擇多少個主成分，在實際工作中，主成分個數的多少取決於能夠反映原來變數80%以上的資訊量為依據，即當累積貢獻率≥80%時的主成分的個數就足夠了。最常見的情況是主成分為2到3個。四、原始變數與主成分之間的相關係數

可見，和的相關的密切程度取決於對應線性組合係數的大小。五、原始變數被主成分的提取率前面我們討論了主成分的貢獻率和累計貢獻率，他度量了F1，F2，……，Fm分別從原始變數X1，X2，……XP中提取了多少資訊。那麼X1，X2，……XP各有多少資訊分別F1，F2，……，Fm被提取了。應該用什麼指標來度量？我們考慮到當討論F1分別與X1，X2，……XP的關係時，可以討論F1分別與X1，X2，……XP的相關係數，但是由於相關係數有正有負，所以只有考慮相關係數的平方。如果我們僅僅提出了m個主成分，則第i原始變數資訊的被提取率為：是Fj能說明的第i原始變數的方差是Fj提取的第i原始變數資訊的比重主成分分析一項十分著名的工作是美國的統計學家斯通(stone)在1947年關於國民經濟的研究。他曾利用美國1929一1938年各年的數據，得到了17個反映國民收入與支出的變數要素，例如雇主補貼、消費資料和生產資料、純公共支出、淨增庫存、股息、利息外貿平衡等等。§1基本思想在進行主成分分析後，竟以97.4％的精度，用三新變數就取代了原17個變數。根據經濟學知識，斯通給這三個新變數分別命名為總收入F1、總收入變化率F2和經濟發展或衰退的趨勢F3。更有意思的是，這三個變數其實都是可以直接測量的。斯通將他得到的主成分與實際測量的總收入I、總收入變化率?I以及時間t因素做相關分析，得到下表：?F1F2F3IItF11?????F201????F3001???I0.995-0.0410.057l??I-0.0560.948-0.124-0.102l?t-0.369-0.282-0.836-0.414-0.1121主成分分析是把各變數之間互相關聯的複雜關係進行簡化分析的方法。在社會經濟的研究中，為了全面系統的分析和研究問題，必須考慮許多經濟指標，這些指標能從不同的側面反映我們所研究的對象的特徵，但在某種程度上存在資訊的重疊，具有一定的相關性。主成分分析試圖在力保數據資訊丟失最少的原則下，對這種多變量的截面數據表進行最佳綜合簡化，也就是說，對高維變數空間進行降維處理。很顯然，識辨系統在一個低維空間要比在一個高維空間容易得多。(1)基於相關係數矩陣還是基於協方差矩陣做主成分分析。當分析中所選擇的經濟變數具有不同的量綱，變數水準差異很大，應該選擇基於相關係數矩陣的主成分分析。在力求數據資訊丟失最少的原則下，對高維的變數空間降維，即研究指標體系的少數幾個線性組合，並且這幾個線性組合所構成的綜合指標將盡可能多地保留原來指標變異方面的資訊。這些綜合指標就稱為主成分。要討論的問題是：（2）選擇幾個主成分。主成分分析的目的是簡化變數，一般情況下主成分的個數應該小於原始變數的個數。關於保留幾個主成分，應該權衡主成分個數和保留的資訊。（3）如何解釋主成分所包含的經濟意義。§2數學模型與幾何解釋假設我們所討論的實際問題中，有p個指標，我們把這p個指標看作p個隨機變數，記為X1，X2，…，Xp，主成分分析就是要把這p個指標的問題，轉變為討論p個指標的線性組合的問題，而這些新的指標F1，F2，…，Fk(k≤p），按照保留主要資訊量的原則充分反映原指標的資訊，並且相互獨立。這種由討論多個指標