决策树算法在高考志愿填报中应用.pdfVIP

第26卷第2期 贵州大学学报(自然科学版) V01．26No．2 JournalofGuizhou 2009年4月 University(NaturalSciences) Apr．2009 文章编号1000—5269(2009)02-0071-03 决策树算法在高考志愿填报中的应用、 代昆玉，胡 滨 (贵州大学计算机科学与信息学院，贵州贵阳550025) 摘要：分类是数据挖掘的重要组成部分，它根据类标号己知的数据建立模型，进而使用该模型 来预测类标号未知的数据所属的类。在众多的分类算法中决策树方法在可理解度、易训练性、易 实施性和通用性等方面优于其他的分类方法。选择将决策树分类法应用到高考志愿填报研究 中。 关键词：分类；决策树；高考 中图分类号：TP301文献标识码：A 高考录取向来是学生及学生家长密切关注的 子节点上。这个算法递归地应用于每个子节点，直 问题。在高考过程中，考生填报志愿是一个很关键 到一个节点上的所有样本都分区到某个类中。 的事情。志愿填报是否适当，直接关系到考生能否 在分支节点处属性的选择上ID3使用了信息 进入他所希望的学校学习，甚至于会影响考生能否 论中的互信息的概念，通过计算分支节点处每个属 有进一步上大学深造的机会。在历年的高考工作 性的互信息(信息增益)，选择当前样本集中具有 中，学生填报志愿都是依靠自已的分析以及老师和 最大信息增益值的属性作为测试属性，样本集的划 家长的经验。但是，个人的经验很不全面，老师或 分则依据测试属性的取值进行，测试属性有多少不 家长不可能了解所有学校的情况以及所有专业的 同取值就将样本集划分为多少子样本集，同时，决 情况，另外，国家政策不断调整，就业形势变化无 策树上相应于该样本集的节点长出新的叶子节点。 常，这些都对考生在选择学校和专业时有巨大的影 ID3算法的基本原理如下： 响。这些就更是个人经验难以解决的问题。 设S是8个样本的集合。假定类别属性具有 我们选择将决策树分类法应用到高考志愿填 In个不同的值，定义m个不同的类c；，(i=1，…， 报研究中，其任务是对招生数据进行处理，使用数 M)。设s；是类Ci中的样本数。一棵决策树对一 据挖掘技术，最终得到一个简洁的但较为完整的志 样本集做出正确类别判断所需的信息熵为： 愿填报参考准则。 (1) 1 算法描述 I(S1，s2，…，8m)=一∑Pil092(Pi) 分类是数据挖掘的重要组成部分，它根据类标 其中，Pi是任意样本属于C；的概率，并用Si／s 号己知的数据建立模型，进而使用该模型来预测类 估计。 标号未知的数据所属的类。常用的分类方法有决 设属性A具有v个不同的值。可用属性A将 策树分类、贝叶斯分类、神经网络分类等，其中决策 S划分为v个子集{S。，S：，…S，}，其中S；包含S中 树方法在可理解度、易训练性、易实施性和通用性 这样一些样本，它们在A上具有a；值。如果选择 等方面优于其他的分类方法。 A作为测试属性，则这些子集就是从代表样本集S 我们采用的算法是决策树算法中的ID3算法， 的节点生长出来的新的叶节点。设s。是子集S；中 ID3算法是1986年由Quinlan提出的…。ID3算类别为c；的样本数，