基于多分类器组合个人信用评估模型.docVIP

基于多分类器组合个人信用评估模型 　　［摘 要］ 本文针对个人信用评估单一模型存在的不足，提出一种基于多分类器组合的个人信用评估模型。该模型综合了多元判别分析、logistic回归、神经网络、支持向量机等七种个人信用评估单一模型的预测结果，利用加权投票方法对其进行组合并输出最后预测结果。在某商业银行信用卡数据集上的测试结果表明，组合模型能有效地提高预测精度及稳健性，对信贷机构控制消费信贷风险具有很好的适用性。 　　?? 　　［关键词］ 个人信用评估；多分类器组合；组合模型?? 　　［中图分类号］F224.0［文献标识码］Ａ ［文章编号］1008―1763(2011)03―0030―04 　　An Ensemble Credit Scoring Model Based on Multiple Classifiers 　　 　　XIANG Hui,YANG Sheng gang 　　(College of Finance and Statistics, Hunan University, Changsha 410079, China) 　　 　　 　　Abstract:This paper proposes an ensemble credit scoring model in which the results of seven base classifiers are combined through weighted voting, The accuracy and robustness of the ensemble model are tested using 5 fold cross validation with a credit card data sets from a commercial bank. Results demonstrate that the ensemble model based on multiple classifiers is efficient and predominant in credit scoring domain. 　　Key words: credit scoring ,multiple classifiers,ensemble model 　　 　　一 引 言?? 　　消费信贷作为一种拉动经济增长的重要手段在我国得到了迅速发展，但日益增长的信贷规模给商业银行带来了巨大的信贷风险并已经造成了大量的信贷资产损失。在此背景下，建立有效的个人信用评估模型具有重大的理论和实践意义。个人信用评估能够通过某种数量分析方法对影响个人(及其家庭)信用的主客观环境进行分析，预测出贷款申请人按期偿还贷款的概率。个人信用评估模型预测精度的微小提高也能为信贷机构挽回巨大的经济损失。目前常见的个人信用评估模型主要有多元判别分析、logistic回归、决策树、最近邻、人工神经网络和支持向量机等，每种模型在预测精度、稳健性和解释性方面有着各自的优缺点［1］。?? 　　 　　近年来，较流行的方法是将多种单一模型的分类结果进行组合，充分利用各单一模型的分类信息，提高预测的准确性和稳健性。Lee（2002）提出的组合模型是将判别分析的输出作为BP神经网络的输入单元之一，研究结果表明该方法能简化BP神经网络的结构，缩短网络训练时间以及提高模型的分类精度。石庆焱（2005）则将神经网络的输出作为logistic回归的自变量之一来构建组合模型，研究结果表明组合模型的稳定型高于神经网络模型而分类精度高于logistic回归模型。叶强（2005）和Tsai（2008）讨论了对多个神经网络模型输出结果的集成（ensemble），他们认为将多个神经网络模型的分类结果进行组合可以提高模型的分类性能［4］。本文提出一种基于多分类器的组合模型构建方法，首先利用多元判别分析(MDA)、C4.5决策树、Logistic回归、贝叶斯网络（Bayes）、BP神经网络、RBF神经网络和支持向量机（SVM）建立个人信用评估模型，然后利用加权投票方法对七个模型的输出结果进行组合，这样的好处是每个模型的分类信息都得到了利用，保证了模型的稳健性，也应该能够提高模型的分类精度。因此可以预期，模型会比单独使用一种方法建立的模型要好。 　　二 基于多分类器组合的信用评估模型原理 　　（一） 基于多分类器组合的信用评估模型结构?? 　　 　　图1为基于多分类器组合的信用评估模型结构。将多个分类器得到的分类信息进行综合， 并得出最终的分类结果，称为多分类器组合或融合（multiple classifier combination）。多分类器组合模型由若干基分类器（basic classifier）组成。在接受