决策树剖析及SPSS实现精选.pptVIP

第九章 決策樹分析 Decision Tree Analysis  決策樹分析 簡介 ■決策樹基本觀念 ■三種研究方法 ■其他決策樹的變化 ■決策樹的優、缺點  簡介 決策樹是功能強大且相當受歡迎的分類和 預測工具。這項以樹狀圖為基礎的方法’其吸 引人之處在於決策樹具有規則’和類神經網路 不同。規則可以用文字來表達’讓人類了解 或是轉化為SL之類的資料庫語言’讓落在特 定類別的資料紀錄可以被搜尋。 在本章中,我們先介紹決策樹運作的方式 及其如何應用在分類和預測問題。隨後我們進 步介紹如何以CART丶C4.5和CHAD演算法 建構決策樹。  決策樹基本觀念 決策樹如何運作: 二十個問題』( Twenty Questions)這個 遊戲’一定可以輕易了解決策樹將資料分類的 方式。在遊戲中,一個玩家先想好所有參加者 都有知道的一個特定地點,人物或事物,其他 玩家藉著提出一堆『是或不是』的問題’來找 出答案。一個決策樹代表一糸列這類問題。 在遊戲中’第一個問題的答案決定了下 個問題。如果謹慎選擇問題’只要短短幾次詢 問就可以將後來的資料正確分類。  決策樹基本親觀念 以『二十個問題』的方法顯示樂器的分類。 致 國如忌的 网泰時用下巴安 本雪率了 有蟹彆 当的 点回单?回片羽 [打华幽 部的点x 不知 d● 引[ 古铃琴 圖12.1用來將樂器分類的二分式浃策樹  決策樹基本親觀念 筆資料從根部的節點進入決策樹。在 根部’應用一項測驗來決定這筆資料該進入 下一層的哪一個子節點( child node)。選擇 開始的測驗有不同的演算法’但目的都是 樣的:這個過程一再重複’直到資料到達 葉部節點( leaf node) 從根部到毎一個葉部都有一套獨特的路 徑’這個路徑就是用來分類資料規則的一種 表達方式。  決策樹基本親觀念 決策樹的多種形式: 到物 阐122一個混合了二分式和三分式的浃策樹 7  決策樹基本觀念 某些規則比其他規則好: 我們將一個決策樹應用在一個前所未有 的資料集合上’並觀察其分類正確的比率 來衡量這個決策樹的有效程度 對決策樹的每一個節點’我們可以如此 衡量 ●進入這個節點的資料數目 ●如果是一個葉部節點’可觀察資料分類的方式 ●這個節點將資料正確分類的比率  決策樹基本親觀念 藉由將資料分到正確類別的情況’我們可以 驗證出建構決策樹的最佳演算法。第四章中的 電影迷資料庫。受測者被要求回答他們的年齡 性別,最常看的電影’以及最近看過的電影片 名。然後我們使用決策樹程式來創造規則’以 受測者在問卷中其他問題的答案來找出該名受 測者的性別 下表顯示這個節點共有11筆資料被歸類其下 其中九個是正確的(女性)’還有兩個男性被 誤分到這裡。換言之’這項規則的錯誤率為 0.182  決策樹基本觀念 酸近省過的常 中]會][會曹 圖123由電影迷資料庫所生的決策樹