结合GBDT特征衍生与集成学习的客户忠诚度预测.pdfVIP

Vol.52No.12计算机与数字工程总第422期

3610ComputerDigitalEngineering2024年第12期

结合GBDT特征衍生与集成学习的客户忠诚度预测

龚安耿航

（中国石油大学（华东)青岛软件学院、计算机科学与技术学院青岛266580）

摘要为提升预测银行客户忠诚度的准确性，提出了结合GBDT特征衍生与集成学习的客户忠诚度预测方法。首先

通过GBDT模型对原始数据集进行特征衍生，得到更多有区分度特征的新数据集。并在此基础上提出了以集成学习为核心

的SV-XLC模型。模型总体上是对Stacking进行了改进。SV-XLC分为两个部分，初级预测模块和次级预测模块。初级模

块由多个基础预测器组成，Voting模型内嵌在次级模块中，也由多个基础预测器组成。数据集经过五折交叉验证先传人初

级模块的不同基础预测器中。经过处理后会产生新的数据集，将其代人次级模块的Voting的不同基础预测器训练预测，得

到最终结果。论文在Kaggle的银行客户公开数据集上进行了验证。实验结果显示，该方法明显提高了银行客户忠诚度预测

的准确性。

关键词客户忠诚度预测；机器学习；GBDT；集成学习

号TP181DOI:10.3969/j.issn.1672-9722.2024.12.023

中图分类号

IntegratingGBDTFeatureDerivationwithEnsembleLearningfor

CustomerLoyaltyPrediction

GONGAnGENGHang

(QingdaoInstituteofSoftware,CollegeofComputerScienceandTechnology,ChinaUniversityofPetroleum(EastChina),

Qingdao266580)

AbstractInordertoimprovetheaccuracyofpredictingbankcustomerloyalty,acustomerloyaltypredictionmethodcombin-

ingGBDTfeaturederivationandintegratedlearningisproposed.Firstly,theGBDTmodelisusedtoderivefeaturesfromtheorigi-

naldatasettoobtainanewdatasetwithmoredistinguishingfeatures.Andbasedonthis,anSV-XLCmodelwithintegrationlearning

asthecoreisproposed.ThemodelisgenerallyanimprovementofStacking.SV-XLCisdividedintotwoparts,theprimarypredic-

tionmoduleandthesecondarypredictionmodule.Theprimarymoduleconsistsofmultiplebasepredictors,andtheVotingmodelis

embeddedinthesecondarymodule,whichalsoconsistsofmuliplebasepredictors.Thedatasetisfirstpassedintothedifferentbase

predictorsoftheprimarymoduleafterafive-foldc