引用Weka学习三(ensemble算法).docVIP

引用 Weka学习三（ensemble算法）智能信息处理 2010-07-11 22:07:09 阅读32 评论0 字号：大中小 订阅 . 引用 其实 的 Weka学习三（ensemble算法） 前两次我们讲了数据挖掘中比较常见的两类方法。这次我来介绍一下ensemble（集成技术），总的来说，ensemble技术是归类在分类中的。它的主要原理是通过集成多个分类器的效果来达到提高分类效果的目的。简单我们可以通过两张图片来看看集成的效果： 图一为多个基分类器单独工作时的分类效果图。图二为集成分类器的分类效果。我们可以看到集成分类器的分类曲线明显会平滑的多。来个比喻，在一件事情的表决上面，一个人的意见与多个人的意见相比，往往是多个人的意见来的准确一些。这是大概解释我们要提倡民主决策的原因吧。 Ensemble技术在数据挖掘方向主要在以下三个方向做工作： 1. 在样本上做文章，基分类器为同一个分类算法，主要的技术有bagging，boosting； 2. 在分类算法上做工作，即用于训练基分类器的样本相同，基分类器的算法不同，这是本文采用的方法； 3. 在样本属性集上做文章，即在不同的属性空间上构建基分类器，比较出名的是randomforestTree算法，这个在weka中也有实现。 现在我们来看看ensemble技术在weka中的实现过程。 package com.csdn; import java.io.File; import weka.classifiers.Classifier; import weka.classifiers.Evaluation; import weka.classifiers.meta.Vote; import weka.core.Instance; import weka.core.Instances; import weka.core.SelectedTag; import weka.core.converters.ArffLoader; /* * Date: 2009.4.3 * by: Wang Yi * Email: wangy * QQ: 270135367 * */ public class SimpleEnsemble { /** * @param args */ public static void main(String[] args) { // TODO Auto-generated method stub Instances trainIns = null; Instances testIns = null; Classifier cfs1 = null; Classifier cfs2 = null; Classifier cfs3 = null; Classifier[] cfsArray = new Classifier[3]; try{ /* * 1.读入训练、测试样本 * 在此我们将训练样本和测试样本是由weka提供的segment数据集构成的 */ File file= new File(C:\\Program Files\\Weka-3-6\\data\\segment-challenge.arff); ArffLoader loader = new ArffLoader(); loader.setFile(file); trainIns = loader.getDataSet(); file = new File(C:\\Program Files\\Weka-3-6\\data\\segment-test.arff); loader.setFile(file); testIns = loader.getDataSet(); //在使用样本之前一定要首先设置instances的classIndex，否则在使用instances对象是会抛出异常 trainIns.setClassIndex(trainIns.numAttributes()-1);