随机森林算法的优化改进及其并行化研究.docxVIP

随机森林算法的优化改进及其并行化研究 随机森林算法是一种集成学习算法,其通过组合多棵决策树来对数据进行分类,适用范围广且不易过拟合,在医学、生物信息、管理学等领域有着广泛的应用。但是针对不平衡数据分类,随机森林算法会产生分类性能下降、决策树规模大等问题;另一方面,面向高维数据的随机森林算法会存在分类精度低、泛化误差大等缺陷;同时,随着大数据时代的来临,随机森林算法应该具备大规模数据的处理能力。 本论文针对以上不足,从数据层面和算法层面分别对随机森林算法进行研究和改进,具体工作如下:(1)针对 SMOTE 与随机森林组合算法在处理不平衡数据集上存在数据集边缘化分布的问题,提出了基于SMOTE 的改进算法AFCM-SMOTE 与随机森林组合,其核心思想是先通过 AFCM 算法对少数类样本进行聚类并找到簇心, 然后根据新插值公式在簇心与簇内数据的连线上合成“人造”样本,最后将“人造”样本添加到原数据集中并利用随机森林进行分类。在 5 个不平衡数据集上的大量实验表明,改进算法的 F-value、G-mean、AUC 和 OOB error 值更优。 针对面向高维数据的随机森林算法存在的不足,提出了基于智能算法的随机森林特征选择和参数优化,将随机森林算法与免疫算法、蝙蝠算法结合,通过二进制编码,对树的规模、子属性个数和特征选择同时搜索,以最小化袋外误差为目标函数。在 5 个高维数据集上的大量