基于决策树薪资结构普查模型研究.docVIP

基于决策树薪资结构普查模型研究 　　摘 要：在对薪资结构进行普查时，由于薪资具有隐私的特性和各种不确定的因素，导致普查过程越来越难，精确度、时效性越来越低。为了快速、准确地了解薪资水平与结构，该文通过使用决策树模型对Adult数据集进行判断、训练，生成对应的薪资划分模型，将影响薪资阶级的各个属性建立起相应的关联，可以分析与预测人们的生活水平与影响因素，仿真的结果表明决策树模型能够进行真实预测。 　　关键词：薪资结构普查；决策树；薪资划分模型；数据集 　　中图分类号：TP301 文献标识码：A 文章编号：1009-3044（2018）12-0265-02 　　决策树算法的核心是归纳学习算法，最基本的特点是运算速度快、结果简单、易于理解、方便将得到的模型转换成对应的规则[1]。因此决策树常常用于预测模型的生成[2-3]，对未来的数据进行预测。在薪资调查中由于个人隐私以及工作变动等问题存在，导致直接通过群众调查结果存在着较大的误差。希望能够通过决策树算法对已拥有的薪资数据进行训练，得到一个较为精确的分类模型[4]，进一步缩短薪资普查周期、提高数据精确度以及真实度。 　　1 决策树基本原理简介 　　1.1决策树算法理论 　　决策树（Decision Tree）是一类基于回归问题的对实例进行分类的树形结构。决策树呈树状结构，其模型类似于数据结构中的树形图[5]。在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布，图1是典型的决策树： 　　ID3决策树（Iterative Dichotomiser 3）算法，是Ross Quinlan发明的一种决策树算法，该算法的特点是简洁、运用广泛。它是以奥卡姆剃刀原理为核心，尽量用较少的资源做更多的事情，因此对于该算法而言，越是小型的决策树越优于大的决策树[6-7]。 　　1.2 C4.5决策树算法介绍 　　C4.5决策树算法是一种基于ID3决策树算法改进后的一种算法，其与ID3决策树算法最主要的区别是在于C4.5算法不再使用ID3决策树算法的信息增益，而是使用了信息增益率这个概念。 　　2 决策树在薪资结构普查中的应用 　　2.1数据源获取 　　本文的数据来源于UCI机器学习库的Adult数据集，该集合主要包含两个部分，训练集adult.data与adult.test。其中adult.data包含了32561调数据，总计有workclass、education、 occupation、relationship等总计16项属性。 　　2.2薪资结构普查决策树模型生成方案及流程 　　薪资结构普查决策树算法： 　　Input：DataSet（adult.data），featureList（包含筛选过后的13个属性集合） 　　Output：决策树T 　　C4.5（DataSet，featureList） 　　Begin： 　　创建决策树T，令T={} 　　创建根结点R 　　If：当前DataSet中的数据都属于同一类 　　标记R的类别为该类，将R加入决策树T。并返回T。 　　End If 　　If：当前featureList集合为空 　　标记R的类别为当前DataSet中样本最多的类别，将R加入决策树T。并返回T。 　　While（如果featureList不为空） 　　从featureList中选择属性F（选择G_Ratio（DataSet，F）最大的属性） 　　根据F的每一个值V，将DataSet划分为不同的子集DS，对于每个DS： 　　?创建结点C 　　?IF：DS为空 　　结点C标记为DataSet中样本最多的类 　　?Else 　　结点C=C4.5（DS，featureList-F） 　　?将结点C添加为R的子结点 　　End While 　　Return T 　　整体方案流程图： 　　3 结果与讨论 　　本算法是基于Python语言，PyCharm开发环境进行实现的，通过训练数据adult.data对决策树进行训练建模，再通过测试数据对训练所得的决策树模型进行检测，最终通过测试到的训练所得的决策树模型的正确率。并分别将决策树模型与朴素贝叶斯算法（NaiveBayes），最近邻算法（Nearest-neighbor）的正确率进行对比。 　　图3为决策树模型的测试结果，如图所示，该程序主要分为三个部分：模型训练、模型测试、以及模型正确率检测，其中模型测试正确率高达85.54%，相比其他分类模型更为精确。 　　该算法在构建时易于实现，产生的分类规则容易理解，相对于其他分类算法而言精确率较高。但在决策树构造过程当中需要进行多次的排序，