gbdt分类亚太杯分赛道五岳杯一等奖.docxVIP

分析流程

数据源：

问题1-计算数据.xlsx

算法配置：

算法：梯度提升树(GBDT)分类

分析结果：

梯度提升树(GBDT)分类基于准确率、召回率、精确率、F1指标对模型进行评价，请看详细结论。

分析步骤

1.通过训练集数据来建立梯度提升树(GBDT)分类模型。

2.通过建立的梯度提升树(GBDT)来计算特征重要性。

3.将建立的梯度提升树(GBDT)分类模型应用到训练、测试数据，得到模型的分类评估结果。

4.由于梯度提升树(GBDT)具有随机性，每次运算的结果不一样，若保存本次训练模型，后续可以直接上传数据代入到本次训练模型进行计算分类。

5.注：梯度提升树(GBDT)无法像传统模型一样得到确定的方程，通常通过测试数据分类效果来对模型进行评价。

详细结论

输出结果1：模型参数

参数名

参数值

训练用时

3.168s

数据切分

0.7

数据洗牌

是

交叉验证

10

损失函数

deviance

节点分裂评价准则

friedman_mse

基学习器数量

100

学习率

0.1

无放回采样比例

1

划分时考虑的最大特征比例

None

内部节点分裂的最小样本数

2

叶子节点的最小样本数

1

叶子节点中样本的最小权重

0

树的最大深度

10

叶子节点的最大数量

50

节点划分不纯度的阈值

0

图表说明：

上表展示了模型各项参数配置以及模型训练时长。

输出结果2：特征重要性

图表说明：

上柱形图或表格展示了各特征（自变量）的重要性比例。

输出结果3：混淆矩阵热力图

图表说明：

上表以热力图的形式展示了混淆矩阵。

输出结果4：模型评估结果

准确率

召回率

精确率

F1

训练集

1

1

1

1

交叉验证集

0.739

0.739

0.733

0.728

测试集

0.723

0.723

0.708

0.708

图表说明：

上表中展示了交叉验证集、训练集和测试集的预测评价指标，通过量化指标来衡量GBDT的预测效果。其中，通过交叉验证集的评价指标可以不断调整超参数，以得到可靠稳定的模型。

●准确率：预测正确样本占总样本的比例，准确率越大越好。

●召回率：实际为正样本的结果中，预测为正样本的比例，召回率越大越好。

●精确率：预测出来为正样本的结果中，实际为正样本的比例，精确率越大越好。

●F1：精确率和召回率的调和平均，精确率和召回率是互相影响的，虽然两者都高是一种期望的理想情况，然而实际中常常是精确率高、召回率就低，或者召回率低、但精确率高。若需要兼顾两者，那么就可以用F1指标。

输出结果5：预测结果

预测结果Y

Classification

预测测试结果概率_1.0

预测测试结果概率_2.0

Currentcheckingaccountstatus

Durationwithinmonth

Credithistory

Purpose

Creditamount

Savingsaccount/bonds

Presentemploymentsince

Installmentrateinpercentageofdisposableincome

Personalstatusandsex

Otherdebtors/guarantors

Presentresidencesince

1.0

1.0

0.9928908300282551

0.007109169971744909

3

10

2

12

1225

3

3

2

3

3

2

2.0

2.0

0.10727068791444039

0.8927293120855596

1

12

2

9

900

3

4

4

3

4

2

1.0

1.0

0.9979385513780821

0.0020614486219179594

4

15

4

15

1471

3

3

4

3

3

4

1.0

2.0

0.8046138279329622

0.19538617206703773

1

36

4

96

9629

4

3

4

4

3

4

1.0

2.0

0.6896875917208046

0.3103124082791954

1

12

2

8

795

2

2

4

2

2

4

2.0

2.0

0.08917120173493942

0.9108287982650606

1

12

2

7

727

2

4

4

2

4

3

2.0

2.0

0.029056718418398075

0.9709432815816019

2

60

1

148

14782

5

2

3

5

2

4

1.0

2.0

0.5621195029568765

0.4378804970431235

4

36

4

71

7127

2

2

2

2

2

4

1.0

1.0

0.98