资料分类法.pptVIP

AIxploratorium Decision Trees 1.(10W,10L) 2.Away:8 (4W,4L) 3.(10L)~ 4L:9pm 4.Fred didn’t start:10 (2W,8L) 5.Joe plays center:11 (8W,3L) 6.OppC tall:10(6W,4L) Decision Trees How to use a data set (such as the records from the previous games) to LEARN an accurate decision tree? Learning Decision Trees A decision tree needs to decide when to split on which attributes.? what is the appropriate root (ie, top-most) attribute?? Learning Decision Trees if the root was FredStart, the records for all 10 FredStart games go left (following the Yes arc) Step1: Another question is When to stop?. Step2: Random Splits this one has a total of 22 nodes, including 10 internal (splitting) nodes. This tree is much smaller than the tree produced by Splitting Randomly, as it has only 12 nodes, including 5 internal nodes. Evaluation Process + Cross Validation 　資料分類法 何謂分類 根據已知資料及其分類屬性值，建立資料的分類模型，接著利用此分類模型預測新資料的類別 範例：顧客是否會購買筆記型電腦的分類模型 分類的目的與應用 分類目的 分析影響資料歸類的因素 預測資料所屬的類別 (class label) 分類應用 信用額度核准(credit approval) 例如：根據預測的信用等級決定核卡額度 目標行銷(target marketing) 例如：找出會購買筆記型電腦的顧客屬性 醫療診斷(medical diagnosis) 例如：依病人的症狀判斷是否罹患SARS ．．． 分類所需的資料前置處理 資料一般化 將連續性資料離散化，資料的數值分布精簡化 避免分類的品質不佳 特徵屬性選取(feature selection) 找出具有關鍵影響的屬性，將無關屬性去除 提高分類的精準度 注意 每筆建立分類模型的資料樣本，一定要有已知的分類標記(class label) ，包含這個已知分類標記的屬性稱之為標記屬性 是否購買筆記型電腦?標記屬性 分類的程序 建立模型 利用現有資料找出分類模型 模型的表示方式有： 分類規則(classification rules) 決策樹(decision trees) 數學公式(mathematical formulas) 評估模型 將資料分成訓練樣本(training samples) 及測試樣本(testing samples) 第一階段利用訓練樣本來建立模型 第二階段測試樣本評估準確性 使用模型 找出資料分類的原因 預測新進資料類型 分類程序的範例 (1) 步驟1：建立模型 分類程序的範例 (2) 步驟2：評估模型 分類程序的範例 (3) 步驟3：使用模型 假設有一位新會員陳建成前來註冊，其基本資料為35歲，單身，低收入 依分類模型所預測的結果為 “是”，也就是此會員有可能會購買筆記型電腦 該線上購物商店可對此會員進行一連串筆記型電腦的廣告行銷活動，例如寄送電子報，以促使顧客下單購買筆記型電腦 分類法的準確性 訓練測試法(training-and-testing) 資料樣本分為訓練和測試資料集，訓練資料集建立分類模型，利用測試資料集測試準確性 適合用在樣本空間非常大的情況 交互驗證法 (cross-validation) 資料樣本分成k個子樣本，輪流將k-1個子樣本當作訓練樣本，剩下一個子樣本當作測試樣本，重複做k次建立模型的工作之後，找出準確度最高的分類模型，也稱作k疊交互驗證法 (k-fold cross validation) 適合用在樣本空間不多的情況 自助法 (bootstra