集成降采样不平数据分类方法研究.pptVIP

* * 厦门大学硕士学位论文答辩 * 厦门大学硕士学位论文答辩 * * 厦门大学硕士学位论文答辩 * 邹 权 博士、助理教授 厦门大学 计算机系 不平衡数据分类 金融欺诈检测 医疗诊断 网络入侵检测 反垃圾邮件 石油勘探等领域 课题背景及意义 相关研究 提出改进算法 在生物信息学上应用 研究内容 相关研究 影响因素（数据方面） 数据稀缺 绝对稀缺 相对稀缺 噪声数据 数据复杂性 类内不平衡 类重叠 对策 重构数据集 大样本降采样 小样本过采样 分类降采样 暂无 基于分类器集成 AdaBoost算法 Bagging算法 代价敏感学习 单类学习 不同算法思想的集成 代价敏感神经网络与分类器集成相结合 现有改进的算法 基于采样的改进算法 基于集成分类器的改进算法 改进的算法 序号 数据集 样本大小 小样本数 大样本数 不平衡度 特征维数 1 haberman 306 81 225 1:2.8 3 2 ionosphere 351 126 225 1:1.8 34 3 balance-scale 625 49 576 1:11.8 4 4 german 1000 300 700 1:2.3 24 5 cmc 1473 333 1140 1:3.4 9 6 dna 3308 973 2335 1:2.4 20 7 bank 4521 521 4000 1:7.7 16 实验数据 基于降采样 聚类方法 K-means MakeDensityBasedClusterer EM（基于模型） FarthestFirst（分层聚类） 采样方法 基于采样的改进算法 数据集 无处理 随机降采样 K-means MDBC EM FF haberman 0.600 0.640 0.630 0.634 0.594 0.591 ionosphere 0.974 0.962 0.961 0.968 0.962 0.975 balance-scale 0.396 0.635 0.634 0.622 0.643 0.671 german 0.760 0.758 0.738 0.721 0.733 0.740 cmc 0.666 0.697 0.691 0.684 0.690 0.700 dna 0.616 0.608 0.622 0.610 0.619 0.599 bank 0.860 0.865 0.845 0.842 0.750 0.825 基于过采样 SMOTE算法 小样本加权重随机抽样算法 基于采样的改进算法 基于单个基分类器 对样本进行处理，基分类器为同一个分类算法 SCNC（Single Classifier, N Cluster）算法 SCLL（Single Classifier, Layered Large data）算法 SCLS（Single Classifier, Layered and Smote）算法 SCNW（Single Classifier, N Weighted）算法 基于集成分类器的改进算法 基于多个基分类器 训练基分类器的样本相同，基分类器的算法不同 MCUD(Multi Classifier，Under-sampling Data)算法 MCOD(Multi Classifier，Over-sampling Data)算法 训练基分类器的样本不同，基分类器的算法不同 MCNC(Multi Classifier，N Cluster）算法 MCLL(Multi Classifier，Layered Large data）算法 MCLS(Multi Classifier，Layered and Smote）算法 MCNW(Multi Classifier，N Weighted）算法 基于集成分类器的改进算法 实验结果 基于集成的改进的算法优于单纯使用数据重构 以Bagging为基分类器的基于单个基分类器的集成算法分类性能较佳 SCNW算法分类性能最佳，适应于不平衡度小于1:10左右的训练集分类 SCNC算法不受训练集的不平衡度大小的影响，比较适合训练集大小较小的情况 SDLL算法和SDLS算法适应于训练集不平衡度比较高且训练集大小比较大的情况 总结改进的算法 SNP位点 在生物信息学的应用 数据集 样本大小 小样本数 大样本数 不平衡度 特征维数 SNP位点 3260 195 3065 1:15.7 25 microRNA前体 在生物信息学的应用 数据集 样本大小 小样本数 大样本数 不平衡度 特征维数 microRNA 8687 193 8494 1:44.0 32