决策树ID3算法的分析与改进.pdfVIP

计算机工程与设计 ComputerEngineeringandDesign 2011，Vo1．32，No．9 3069 决策树ID3算法的分析与改进 王小巍， 蒋玉明 (四川大学计算机学院，四川成都610064) 摘 要：为了弥补ID3算法 的缺点及不足 ，设计 了一种基于ID3算法的改进算法。它使用修正参数修正信息增益，克服 了 ID3算法偏向于选择取值较多的属性这一缺点，对连续值的属性进行离散化 ，解决了连续属性的处理 问题 ，通过有未知值的 样本是按照 已知值的相对频率随机分布的思想，可以处理缺少属性值的样本。描述 了通过改进的ID3算法生成决策树 的具 体步骤 ，将改进算法应用到 了客户关系管理系统中的客户流失分析 问题 当中。通过对实验结果的分析比较，得到改进算法 与原 ID3算法相比具有更高的预测准确率，表 明了该算法的有效性 关键词：数据挖掘；决粜树；ID3算法；聚类；剪枝 中图法分类号：TP301．6 文献标识码：A 文章编号：1000—7024(2011)09-3069—04 AnalysisandimprovementoflD3decisiontreealgorithm WANGXiao．wei， JIANGYu—ming (SchoolofComputerScience，SichuanUniversity,Chengdu610064，China) Abstract：AccordingtotheshortcomingsoftheID3algorithm，animprovedalgorithm isdesignedbasedonhteID3algorithm．This algoritmh correcttheinformationgainbyusingamodifiedparameterandovercomehtedisadvna tagethatbaistoselecttheattributehas morevalueandhtediscreteofcontinuouspropertiestosolvehteproblem ofhtecontinuousattributes．Asfortheideathatasampleof unknownvalueisinaccordna cewihthteknownvaluesoftherelativefrequencyofrnadom，Itcandealwithhtemissingattributevalues ofhtesample．Lastdescribedthestepshtathow togeneratedecisiontreebyhtemodifiedID3algoritmh ．Theimprovedalgorithm is appliedtothenaalysisofcustomerlostinhtecustomerrelationshipmna agementsystem．Throughhtecomparisonoftheexperimental results，theimprovedalgoritmh hasahigherforecastaccuracyhtanhteoriginalID3algorithm．Finally, thefeasibilityofthemehtodis validatedbypracticalapplication． Keywords：datamining；decisiontree； ID3algorithm；clustering；pruning ID3算法放弃这些数据生成的决策树就可能会与实际情况有 0 引 言 所差别。针对 ID3算法的缺点及不足 ，提出了一种基于ID3算 ID3算法由于其理论清晰，方法简单，学习能力较强，适 法的改进算法。基于该改进算法将极大的提高预测的准确率， 合用于处理大规模的学习问题，是数据挖掘和机器学习领域 具有较高的实用性和有效性。 中的一