训练数据分类结果的不可指定性和模糊决策树泛化能力关系研析.pdfVIP

摘要 摘要 决策树归纳算法是归纳学习中最重要的分支之一，是归纳推理中应用最广，最实用 的方法之一。模糊决策树算法是决策树算法的一种推广，使之能够处理模糊性和不可指 定性信息。模糊决策树与清晰决策树有许多不同，其中一点是推理机制的不同。在清晰 情况下，对于给定的一个样例，只有一条规则可以用于分类。但在模糊情况下，有多条 规则可以同时应用于一个样例，因此在模糊决策推理过程中，一个样例可能会以不同的 程度被分到不同的类别中。 决策树正确分类训练集之外数据的能力称为泛化能力，也称为预测能力。泛化能力 是评价决策树生成算法好坏的最重要指标。泛化能力越强，预测精度就越高。判断决策 树泛化能力强弱的最直接的方法是决策树对未见过的样例能正确分类的个数。测试精度 越高，决策树的泛化能力就越强。在实际应用中，决策树算法的泛化能力直接影响着决 策的准确度。 一个样例匹配一组IF．THEN模糊规则的分类结果通常是一种可能性分布。这种可 能性分布可以用不可指定性来度量。本文试找出训练数据分类结果的不可指定性与测试 精度(也称泛化能力)之问的关系，试给出评价模糊决策树泛化能力的一个新的指标。 首先用模糊决策树算法产生～组IF．THEN模糊规则，然后用训练集和测试集匹配生成 的IF．THEN模糊规则，计算训练数据分类结果的不可指定性和测试精度。根据实验结 果，我们发现在训练精度不降低的约束下，通常训练数据分类结果的不可指定性越大， 测试精度越高，泛化能力越强。并对实验结果，给出了一些解释和推断。 关键词 模糊决策树；分类结果的不可指定性；训练精度；测试精度；泛化能力 Abstract Abstract Decisiontreeinductionisoneofthemost branchesofinductive is important learning．It oneofthemost usedand methodsforinductive Decision widely practical inference．Fuzzy are anextensionof Decisiontree tree(FDT)algorithms，whichbasically Crisp algorithms，are in with and areseveral between differences populardealingambiguityvagueness．There crisp and ofthemis mechanism．In onerule decisiontrees．One the fuzzy reasoning case，only crisp willbe foreach inthe rulescanbe at applied particularobject．Butfuzzycase，many applied thesametimethereforean beclassifiedintodifferentclasseswithdifferent objectmay degrees． The ofdecision isalsocalled generalizat