基于单因素方差分析的决策树算法-计算机工程与科学.pdfVIP

维普资讯 CN43-1258／TP 计算机工程与科学 2007年第29卷第 10期 ISSN 1007—130X COMPUTERENGINEERING ＆SCIENCE Vo1．29，No．10，2007 文章编号：1007-130X(2007)10-0050-04 基于单因素方差分析的决策树算法 DecisionTreeAlgorithmsBased onaOne-W ayAnalysisofVariance 丁顺利，洪允德 ，袁静波 DINGShun-li，HONGYun-de。YUANJing-bo (东北大学秦皇岛分校计算机工程系。河北 秦皇岛066004) (DepartmentofComputerEngineering，NortheasternUniversityatQinghuangdao。Qinghuangdao066004，China) 摘 要：测试属性的选择是决策树构建的关键。本文基于单因素方差分析原理，提 出了决策树算法ANOVA1．0及 ANOVA2．0。两种算法在测试属性的选择上分别采用最大组间平方和、最大组 内平方和增益率，而且都在平台WEKA-3— 5上实现。与ID3、CA．5进行效率、精度等方面比较的大数据集实验结果表明，提 出的两种算法是较好的分类算法。 Abstract：Twonew decisiontreealgorithms，ANovA1．0andAN OVA2．0，arepresentedinthispaper．Thealgo— rithmsarebasedonone-wayanalysisofvariance．AN oVA1．0selcetstestde attributesaccordingtOthebiggestsum of squaresbetweengroups．AN oW ．0selectsthetestedattributesacocrding tOtheb遍gestinter-groupgainratioofsumof squares．AN OVA1．0andA 10vlA2．0raeimplementedintheW eka．3-5sofwt rae．ThetWOgivenalgorithmsraeocmprade tO ID3nadCA．5inperformance，precision，andSOon．Theexperimentswithlragerdatasetsaredoneandtheexperimneatlre- sultsshow that ．0nad ．0raebetterclassificationalgorithms． 关键词：决策树；组间平方和；组 内平方和增益率 Keywords：decisiontree；nitergroupsum ofsquraes；intra-groupgainratioofsum ofsquares 中图分类号：TP311 文献标识码：A 本文提出了决策树算法 VA1．0和 AN0lvA2．0。 1 引言 两种算法与上面分裂方法的不同点主要是基于统计学中的 单因素方差分析原理，同时类属性的各个值 以数字标号并 决策树算法在分类算法的研究与应用中受到广泛关 参与运算。A 10vlA1．0与 1193算法相比较是以最大组间 注。绝大多数决策树的构建是一种 自上而下、分而治之的 平方和作为在非叶节点上选择测试属性的标准。而不是最 归纳过程