基于lazy方法的数量型关联分类.docVIP

基于lazy方法的数量型关联分类 　　摘 要：传统关联分类方法处理数量型数据时，“先离散，再学习”的步骤使新的测试样例可能无法找到合适的离散区间，形成离散盲目性问题。基于lazy的数量型关联分类作为一种新的关联分类法，它首先利用K近邻分类思想为测试样例求得K近邻作为新的训练数据集，然后对包含测试样例和K个近邻的数据集离散化，并在K近邻组成的离散数据集上挖掘关联规则并构造分类器进行分类。最后，通过与传统CBA、CMAR、CPAR算法在7个常用UCI数量型数据集上进行的对比实验结果表明，基于lazy的数量型关联分类方法的平均分类准确率提高了0.66%～1.65%，证明了该方法的可行性。 　　关键词：数据挖掘；lazy方法；数量型关联分类；关联规则；K近邻 　　中图分类号： TP311；TP18 　　文献标志码：A 　　0 引言 　　现在，运用数据挖掘[1]方法从海量数据中获取有价值的决策信息已经受到越来越多的重视，在众多领域得到应用，如电子商务推荐、银行贷款风险分析等。关联分类[2]作为一种基于类关联规则的新分类方法，与现有的分类方法如决策树方法[3]、神经网络方法[4]、贝叶斯分类法[5-6]、支持向量机分类法[7]和K近邻方法[8]相比，能发现多种且比较全面的规则来提高分类精度，是数据挖掘的分类领域中的一个重要且有价值的分支方向。 　　根据构建分类器的时机，关联分类分为两类：一类是显式关联分类法，把数据集分为训练样例集D和测试样例集T，当对T中的每个样例Ti进行分类时，直接使用已从数据集D训练得到的分类器，现有的算法主要包括CBA（Classification Based on Associations）[9]、CMAR（Classification based on Multiple ClassAssociation Rules）[10]、CPAR（Classification based on Predictive Association Rules）[11]等；另一类是lazy关联分类法，它为T中的每个测试样例Ti均构造一个分类器用于分类，即把分类器的构造放到分类阶段，故称为lazy型关联分类，现有算法包括L3（Live and Let Live）算法[12]和由Veloso等[13]提出的基于属性投影的lazy型关联分类算法。 　　L3算法将规则分为有用规则、备用规则和有害规则，使用lazy剪枝策略，将备用规则保留到分类阶段；分类时，首先使用可用规则进行分类，如无法分类，则使用备用规则进行分类。 　　基于属性投影的lazy型关联分类算法[13]则通过在原始训练数据集对测试样例进行基于属性的投影，得到一个去除冗余属性、规模更小、准确度更高的新训练数据集，并在这个新的训练数据集上挖掘类关联规则，以减小挖掘代价，提高分类效率。 　　另一方面，显示关联分类算法和lazy关联分类算法都基于这样一个前提：当所挖掘的数据具有数量型属性时，需要采用各种方法对数量型属性进行离散化处理。然而这类“先离散，再学习”的处理思想对于分类样本而言，存在一定的盲目性。以表1所示的数据集为例。 　　由规则集可知，年龄为“20”的值因没有合适的区间而无法匹配规则。针对现实数据多为连续型这一事实和离散化的盲目性问题，本文通过运用lazy方法，结合近邻思想和Kmeans聚类方法，对数量型关联分类进行研究，提出了基于lazy方法的数量型关联分类，以使关联分类更好地应用于现实数据中。 　　1 避免离散盲目化方法 　　离散盲目化是传统关联分类中“先离散，再学习”的处理方式带来的，同时Lazy方法是通过测试样例在原始数据集上的“投影”获得构造分类器的训练数据集。本文利用lazy方法这一特点，通过对“投影”后得到的包括测试样例的数据集进行离散化，使测试样例的每个属性值都能够匹配到离散后的区间，进而确保其不会因为找不到区间影响规则的匹配。简单地以上述离散盲目化问题为例，考虑测试样例离散化后的挖掘的规则集如下所示： 　　3 实验分析 　　3.1 实验设置 　　1）验证方法。由于训练模型对数据的过分特化，使训练数据导出的分类法可能会导致过于乐观的评估，本文的实验均采用10折交叉验证法，将数据集随机分割成10个部分，每个部分依次轮流被旁置用于测试，其余90%的数据则作为训练数据。这样，共进行10次实验，每次使用不同的训练数据集产生分类器和不同的测试集检验分类准确率。 　　2）实验数据。本文选用了18个常用的UCI数据集中的7个数量型数据集进行实验，数据集的描述如表3所示。 　　4 结语 　　为了更好地把关联分类应用于数量型属性，提高关联分类的实用性，本文将lazy思想应用到数量型关联分类中，提出了一种新的基于lazy方法的数量型