一种新的应用变精度粗糙集的决策树构造方法-重庆理工大学学报.pdf

第２７卷　第１１期 重 庆 理 工 大 学 学报（自然科学） ２０１３年１１月 Ｖｏｌ．２７　　Ｎｏ．１１ ＪｏｕｒｎａｌｏｆＣｈｏｎｇｑｉｎｇＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ（ＮａｔｕｒａｌＳｃｉｅｎｃｅ） Ｎｏｖ．２０１３  ｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．１６７４－８４２５（ｚ）．２０１３．１１．０１２ 一种新的应用变精度粗糙集的决策树构造方法 王　越，万　洪 （重庆理工大学 计算机科学与工程学院，重庆　４０００５４） 摘　　　要：决策树分类方法是一种有效的数据挖掘分类方法，但在构造决策树的过程中，节点 属性选择的标准直接影响分类的效果。对此，应用变精度粗糙集的理论提出了变精度决策分类 熵和信息决策熵的概念，并把信息决策熵作为节点属性选择的标准。信息决策熵综合考虑了属 性的当前分类能力和属性之间的依赖关系，克服了只突出属性分类能力的缺点。理论和实例分 析结果表明：与经典的ＩＤ３决策树算法及其他算法相比，该算法能得到简洁高效的决策树。 关　键　词：决策树；变精度粗糙集；变精度决策分类熵；信息决策熵 中图分类号：ＴＰ３０１．６　　　　文献标识码：Ａ 文章编号：１６７４－８４２５（２０１３）１１－００５８－０７ ＡＮｅｗＭｅｔｈｏｄｆｏｒＣｏｎｓｔｒｕｃｔｉｎｇＤｅｃｉｓｉｏｎＴｒｅｅ ＢａｓｅｄｏｎＶａｒｉａｂｌｅＰｒｅｃｉｓｉｏｎＲｏｕｇｈＳｅｔ ＷＡＮＧＹｕｅ，ＷＡＮＨｏｎｇ （ＳｃｈｏｏｌｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅａｎｄＥｎｇｉｎｅｅｒｉｎｇ， ＣｈｏｎｇｑｉｎｇＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ，Ｃｈｏｎｇｑｉｎｇ４０００５４，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｄｅｃｉｓｉｏｎｔｒｅｅｃｌａｓｓｉｆｉｃａｔｉｏｎｉｓａｎｅｆｆｅｃｔｉｖｅｍｅｔｈｏｄｆｏｒｄａｔａｍｉｎｉｎｇｃｌａｓｓｉｆｉｃａｔｉｏｎ．Ｈｏｗｅｖｅｒ， ｉｎｔｈｅｐｒｏｃｅｓｓｏｆｃｏｎｓｔｒｕｃｔｉｎｇａｄｅｃｉｓｉｏｎｔｒｅｅ，ｔｈｅｎｏｄｅａｔｔｒｉｂｕｔｅｓｅｌｅｃｔｉｏｎｃｒｉｔｅｒｉａｄｉｒｅｃｔｌｙａｆｆｅｃｔｔｈｅ ｅｆｆｅｃｔｏｆｃｌａｓｓｉｆｉｃａｔｉｏｎ．Ｂａｓｅｄｏｎｖａｒｉａｂｌｅｐｒｅｃｉｓｉｏｎｒｏｕｇｈｓｅｔｔｈｅｏｒｙ，ｔｈｅａｒｔｉｃｌｅｐｕｔｓｆｏｒｗａｒｄｔｈｅｃｏｎ ｃｅｐｔｏｆｖａｒｉａｂｌｅｐｒｅｃｉｓｉｏｎｄｅｃｉｓｉｏｎｓｃｌａｓｓｉｆｉｃａｔｉｏｎｅｎｔｒｏｐｙａｎｄｉｎｆｏｒｍａｔｉｏｎｄｅｃｉｓｉｏｎｅｎｔｒｏｐｙ，ａｎｄｔａｋｅｓ ｉｎｆｏｒｍａｔｉｏｎｄｅｃｉｓｉｏｎｅｎｔｒｏｐｙａｓａｎｏｄｅａｔｔｒｉｂｕｔｅｓｅｌｅｃｔｉｏｎｃｒｉｔｅｒｉａ．Ｔｈｅｅｎｔｒｏｐｙｏｆｔｈｅｉｎｆｏｒｍａｔｉｏｎｄｅｃｉ ｓｉｏｎｃｏｎｓｉｄｅｒｓｔｈｅｄｅｐｅｎｄｅｎｃｉｅｓｂｅｔｗｅｅｎｔｈｅｐｒｏｐｅｒｔｙ’ｓｃｕｒｒｅｎｔｃｌａｓｓｉｆｉｃａｔｉｏｎａｂｉｌｉｔｙａｎｄａｔｔｒｉｂｕｔｅｓｔｏ ａｖｏｉｄｉｎｇｔｈｅｓｈｏｒｔｃｏｍｉｎｇｓｏｆｔｈｅｏｎｌｙｐｒｏｍｉｎｅｎｔａｔｔｒｉｂｕｔｅｃｌａｓｓｉｆｉｃａｔｉｏｎａｂｉｌｉｔｙ．Ｔｈｅｏｒｙａｎｄｃａｓｅｓｔｕｄｙ ｓｈｏｗｔｈａｔｃｏｍｐａｒｅｄｗｉｔｈｔｈｅｃｌａｓｓｉｃａｌＩＤ３ｄｅｃｉｓｉｏｎｔｒｅｅａｌｇｏｒｉｔｈｍａｎｄｏｔｈｅｒａｌｇｏｒｉｔｈｍｓ，ｔｈｅａｌｇｏｒｉｔｈｍ ｃａｎｇｅｔａｃｏｎｃｉｓｅａｎｄｅｆｆｉｃｉｅｎｔｄｅｃｉｓｉｏｎｔｒｅｅ． Ｋｅｙｗｏｒｄｓ：ｄｅｃｉｓｉｏｎｔｒｅｅ；ｖａｒｉａｂｌｅｐｒｅｃｉｓｉｏｎｒｏｕｇｈｓｅｔ；ｖａｒｉａｂｌｅｐｒｅｃｉｓｉｏｎｄｅｃｉｓｉｏｎｃｌａｓｓｉｆｙｅｎｔｒｏｐｙ； ｉｎｆｏｒｍａｔｉｏｎｄｅｃｉｓｉｏｎｅｎｔｒｏｐｙ