基于序信息熵决策树的有序分类学习.pdf

第37卷第10A期 计算机科学 V01．37No．10A 2010年10月 Science Oct2010 Computer 基于序信息熵决策树的有序分类学习 车勋建胡清华 (哈尔滨工业大学能源学院 哈尔滨150001) 摘要有序分类是指类别号之间存在序结构的分类问题，一般假设属性与决策存在单调的依赖关系。经典的决 策树算法不能反映数据之间的序结构。本文引入序信息熵和序互信息度量，构造了新的决策树学习算法。基于有 序信息熵决策树算法将有序互信息作为决策树的分裂准则，该算法在处理单调或非单调数据集时都可生成单调的 规则集。实验证明该算法的平均排序损失和泛化能力都优于经典决策树CA．5等算法。 关键词有序分类，有序信息熵，决策树 Ordinal BasedDecisionTreeforMulticriteriaClassification Entropy CHE ianHU Xun～j Qing-hua (HarbinInstituteof 1 Technology，Harbin50001，China) AbstradOrdinalclassificationisreferredasto ordinalclassestogivenobjects。wheremonotonousconstraint assign between assumed．The and is classicaldecisiontree arenotabletoextracttheordinal inputoutputusually algorithms relationsfromdat乱Inthiswork，weintroduceordinal andordinalmutualinformationtoconstructanovelal— entropy for ordinaldecision tree mutual trees．Decision informationisbuiltforordinal gorithmlearning splittingbyranking classification，andis tobeableto monotonicrulesetsfrommonotonicdatasetaswellasnon-mono— proved generate tonic showsthatthe thewellknowndecisiontreeC4．5and analysis algorithm datasets．ExperimentaI outperforms someotherordinalclassifiers． Ordinalclassification，Ordinalinformation tree Keywmrds entropy，Decision 有序分类也称为单调性分类，或者多标准决策 建模，尤其是需要分类模型可理解的场合，被广泛采 分析[1剖。目前