GINIIndex的算法—為IBMIntelligentMiner所使用的方法.docVIP

GINI Index的算法—為IBM Intelligent Miner所使用的方法 Gini索引值: 針對數值型態的屬性來做分類, 若樣本集合D中包含 n 類樣本，則Gini索引法將樣本集合D的Gini索引值定義為 100個人中若50會買電腦, 50個不會買電腦, 則Gini=1-(0.52+o.52)=0.5 100個人中若10會買電腦, 90個不會買電腦, 則Gini=1-(0.12+o.92)=0.18 所以分配平均, Gini值越小, 基本上要選Gini索引值小的屬性當分割點 年齡 婚姻 收入 購買筆記型電腦 24 單身 高 否 28 單身 中 否 35 單身 低 是 32 已婚 中 否 40 已婚 低 否 42 已婚 低 否 38 已婚 中 否 29 單身 高 否 22 已婚 低 否 33 已婚 中 否 25 已婚 高 是 50 已婚 中 否 35 單身 中 是 45 已婚 低 否 37 單身 中 是 18 單身 低 否 所有樣本 P(會買) N(不會買電腦) 總數 4 12 年齡 P N 30 1 5 = 30 3 7 婚姻 P N 單身 3 4 已婚 1 8 收入 P N 低 1 5 中 2 5 高 1 2 ■假設第一個選取的屬性為年齡 ＊考慮分割點為年齡＝30 則年齡30的子集合當中有1個正例、5個反例，故 　 p1 =1/16、 p2=5/16，Gini索引值為 年齡( 30的子集合當中有3個正例、7個反例，故 　 p1 =3/16、p2=7/16，此子集合之Gini索引值為 　　　　　　　　　　　　 = 1( (3/16)2( (7/16)2=0.773 ＊考慮分割點為年齡＝40 則年齡40的子集合當中有4個正例、8個反例，故 　 p1 =4/16、 p2=8/16，Gini索引值為 = 1( (4/16)2( (8/16)2 = 0.6875 年齡( 40的子集合當中有0個正例、4個反例，故 　 p1 =0/16、p2=4/16，此子集合之Gini索引值為 　　　　　　　　　　　 = 1( (0/16)2( (4/16)2 = 0.9375 由於Gini’(40)Gini’(30)，因此將分割點設定在”年齡 = 40”會比設定在”年齡 = 30”好 2 gini.doc