基于Ⅳ属性选择的随机森林模型研究-计算机软件与理论专业论文.docxVIP

基于IV属性选择的随机森林模型研究摘要 基于IV属性选择的随机森林模型研究 摘要 随着信息技术的迅速发展，众多应用领域如银行金融业、电子商务、生物 信息、网络安全等产生了爆炸式的信息。不仅在数据规模上具有高维、海量的 特征，在信息内容上还具有冗余多、噪音多的特点。这样的数据给挖掘技术带 来了巨大的挑战，尤其是处理数据流等问题时，模型的实时性无法保障，使得 更注重训练数据质量的分类模型训练周期变长，精度下降。因此，如何有效的 减小数据规模，提高数据质量对提高分类模型的性能有着重要意义。 本文针对属性选择及分类问题开展了以下工作的研究： (1)针对数据挖掘所面临的挑战，分析了有效缩减数据规模是重要的可行 方法，并在此基础上概述了各类经典属性选择方法，探讨了它们的特点与不足。 (2)针对已有属性选择方法在处理高维、海量数据时，时空性能与效果上 的不足，分析了将WoE与IV指标引入属性选择的可行性及存在的问题，在解 决这些问题的基础上提出了基于IV指标的属性选择方法FS．IV，实验表明该算 法是有效的，与经典属性选择方法相比时空性能有明显优势，并具有一定的抗 噪性。 (3)针对属性选择后数据集出现的数据量大幅减少、优势属性集中可能会 导致的过拟合等问题，分析了解决手段，将FS．IV方法与随机森林模型结合， 提出了基于IV指标的随机森林模型，实验表明该模型与C4．5，朴素贝叶斯及 经过FS．IV约简的C4．5与朴素贝叶斯模型相比，在不损失精度的情况下，时间 性能大幅提升。 (4)根据高维、海量、流数据等实际问题，对FS．IV及IV．RF模型做了 适应性改进，实验表明它们对高维、海量数据有着很好的处理效果。 关键词：属性选择，IV指标，随机森林，数据挖掘 The The Research Oil Random Forest Based on IV Feature Selection Abstract With the rapid development of information technology，an explosive amount of data is brought out in the fields like banking，financial services，e-commerce， bioinformatics and network security．These practical data that mining tasks face are often of high—dimension，redundant features，as well as noises，which may lead to lower precision and cost more time，especially in classification modeling，since high quality data are preferred．Thus，it will be helpful to use those predictive features for improving the performances In this thesis，researches are carried out on feature selection and classification as below： (1)According to the challenges that data mining faces，a possible way is to reduce huge data size effectively such as feature selection．We summarize most classical methods of feature selection，and point out their characteristics as well as weak points based on the analysis． (2)Due to the defects of traditional models that we mentioned，the feasibility and the difficulty of using WoE and IV as a feature selection methods are analyzed． Under the analysis，a feature selection model FS-IV is proposed based on the IV index．Experiments show that the model performs with a shortened time