多策略决策树学习算法会议论文.pdfVIP

清华大学学报(自然科学版) 28／57 Journalof 第s2期第77～80页 3．998年第38奄 TsinghuaUniversity(Sci＆Tech) 多策略决策树学习算法 张颖，史忠植，王军，李 莉 中国科学院计算技术研究所智能开放实验室，北京100080 西南师范大学计算机系．重庆400715 let．ac．Cn E—mail；zhan筋，@envst一1 文擅决箭树学习算法已曲：许多实际应用中取得成功。脱存算法相：解决属性选择、数 据噪声．数据递增等问题【：再柯所K，矧时也受限卜小㈦的领域。奉立：绘f|{，一个两纽 式的多策略决策树学习算法MSDTL。它的第一级用t选取照优决策树学习算法。利用 经典例子库及I弛存算法构造第一缎训练例子壤，采用C45算法忭为第一级学习算法选 取商向目标任务的最优算法，也就是第一级学习锋法：笫一级则用原始训练例子集作为 鹕一级训练例于集．将第。级输i{{的培优算法作为第一级学习算法m行H标分类规则的 学习。本算法还为增加新算法与绎媳倒，集提删￡J’帆制。 关健词决策树；多策略学习 1多策略决策树学习算法MSDTL设计思想 博采各种决策树学习算法所长是本文所提Hl的多策略决策树学习掉法的基本点。 同 时，学习算法及其学习任务与训绦集的人小、维数、所属领域等属性有着复杂的关系．不 第一较学目过程 第二彀学习过程 圈I．1MSDTI。算法总体设计 78 清华大学学报(自然科学舨) 1998．38(s2) 能用简单的控制分支语句米实现对虽优算法的选择。因此，我们引入r两级式多策略决策 树学习算法的概念(见圈1．1)。 1．1两擐式学习 两级式学习的着眼点在r：第一级决策树学习算法用于解决从众多评介标准不一、适 应领域不一、训练例子规模不一的决策树学习算法中找到一个最适合解决原始训练例子集 的学习算法；第一级的学习任务!I!{I要显得传统得多，囡为从一耋R无次序、无规则的事例中 推理出决策树表示形式的分类规则止是决策树学习算法的长项。 1．2多策略学习 多策略学爿体现在本掉法不局限卜一个学习算法。同时还为引入新算法和经典例子集 提供了机制。这种机制保证_r新引入算法与原注册算法、新引入经典例子集与原注册经典 例子集问的无缝连接，以及对选优规则库的维护与不断更新。这种机制是由人机交互纳入 接口及诬级激活力式实现的。 逐级激活方式也町以叫做事件驱动方式，它的思路是： 1． ’口算法库发生变化，就会激活选优算法与第一级学习算法C4．5的执行，从而引 起选优舰则库的更新； 2．同理， 。。。．经典例子库发，#变化，就会激活图2l中戈往选优规则库路径上各算法 及其相鹰数据结构的执{J‘I改变，从而使选优规则序的更新与输入保持同步。 1．3概念描述 Definitionh原始训练例子集E是¨MSDT[芽法构造的面向目标学习任务的训练例子集。 Definition2：一个算法a足一个住MSDTL中注册的且已被实验证实可行的决策树学习算 法。一个捧法的名字是该符法的唯～标忠。 。个算法集A是在MSDTL算法 r{z注册的所Ⅵ仃钎7上“的集合。 Definition 集A与算法索引表AP存在着…’对意的戈系。 Definitio