基于离散度的决策树构造方法.pdfVIP

第 23 卷 第 1 期 控 　制 　与 　决 　策 2008 年 1 月 Vol . 23 No . 1 Cont rol an d D ecis ion 　　J an . 2008 　　文章编号 : 100 10920 (2008) 0 1005105 基于离散度的决策树构造方法 1 ,2 1 1 亓常松 , 孙吉贵 , 于海鸿 ( 1. 吉林大学 a . 计算机科学与技术学院 , b . 符号计算与知识工程教育部重点实验室 , 长春 1300 12 ; 2 . 通化师范学院 软件研究所 , 吉林 通化 134002) 摘 　要 : 在构造决策树的过程中 ,属性选择将影响到决策树的分类精度. 对此 ,讨论了基于信息熵方法和 WMR 方法 的局限性 ,提出了信息系统中条件属性集的离散度的概念. 利用该概念在决策树构造过程中选择划分属性 ,设计了基 于离散度的决策树构造算法 D SD . D SD 算法可以解决 WM R 方法在实际应用中的局限性. 在 U CI 数据集上的实验表 明 ,该方法构造的决策树精度与基于信息熵的方法相近 ,而时间复杂度则优于基于信息熵的方法. 关键词 : 决策树 ; 离散度 ; 属性选择 中图分类号 : TP30 1. 6 　　　　文献标识码 : A Approach f or constructing decision trees based on dispersion degrees QI Ch angs ong 1 , 2 , S UN J ig ui 1 , Y U H aihong 1 ( 1a . College of Comp ut er Science and Technolo gy , 1b . Key L aboratory of Symbolic Comp ut ation and Knowledge Engineering of Mini st ry of Education , J ilin U niver sit y , Changchun 1300 12 , China ; 2 . Software In stit ut e , Tonghua Normal College , Tonghua 134002 , China . Correspondent : Q I Changsong , Email : changsongqi @email .j lu . edu . cn) Abstract : In t he p rocess of con st ructing a deci sion t ree , t he crit eria of selecting p artitional att ribut es will influence t he classification accuracy of t he t ree . Therefore , t he limit ation s of information ent rop y ba sed app roach and weight ed mean roughness ( WM R ) app roach are di scu ssed , and a concep t of conditonal att ribut es di sp er sion degrees in information sy st em s i s p ropo sed . Thi s concep t i s u sed to choo se p artitional att ribut es in t he alg