GBDT-2数学建模竞赛.docVIP

GBDT基本信息汇总?MACROBUTTONDoFieldClick[]

选项

频数

百分比

有效

13

13.00%

缺失

87

87.00%

总计

100

100.00%

Suggestions?MACROBUTTONDoFieldClick[]

GBDT(GradientBoostingDecisionTree)是一种基于决策树的集成学习算法，它将多个弱分类器(决策树)进行迭代加权，来提升模型的准确性。在每一次迭代中，GBDT会根据上一轮模型的预测结果计算出残差(实际值与预测值之差)，并将残差作为下一轮模型的训练目标。算法步骤如下：

第一：初始化，通过拟合一个初始模型(比如平均值)，得到初始预测值；

第二：计算残差，计算当前模型的预测值与实际值之间的残差(差异)；

第三：拟合残差，拟合一个回归树(决策树)来预测残差，使得残差减少；

第四：更新模型，通过将回归树的预测结果乘以一个学习率(或步长)，更新当前模型；

第五：重复迭代，重复步骤2到4，直到达到预设的迭代次数或残差已经足够小；

第六：集成模型，将所有的回归树组合起来形成最终的集成模型，每棵树的预测结果加权相加，得到最终的预测值。

IntelligentAnalysis?MACROBUTTONDoFieldClick[]

将Totalnumberofhouseholds,Greeningrate,Floorarearatio,Propertymanagementfee（/m2/monthUSD）,above-groundparkingfee（/monthUSD）,undergroundparkingfee（/monthUSD）,citycode,adcode,lon,lat,X,Y项作为自变量，而将Price(USD)作为因变量进行Gbdt建模，从上表可以看出，总共有13个样本参与分析。

特征权重值?MACROBUTTONDoFieldClick[]

项

权重值

Totalnumberofhouseholds

0.001

Greeningrate

0.399

Floorarearatio

0.049

Propertymanagementfee（/m2/monthUSD）

0.001

above-groundparkingfee（/monthUSD）

0.000

undergroundparkingfee（/monthUSD）

0.550

citycode

0.000

adcode

0.000

lon

0.000

lat

0.000

X

0.000

Y

0.000

IntelligentAnalysis?MACROBUTTONDoFieldClick[]

特征权重显示了各标题对模型贡献的重要程度，其加和值为1，从上表可知：

undergroundparkingfee（/monthUSD）所占比重为54.95%，该特征的权重最高，对模型构建起着关键作用；

Greeningrate所占比重为39.88%，该特征的重要性次之，对模型构建起着重要作用；

Floorarearatio所占比重为4.90%；

以上3项特征的比重合计占到了99.73%；

剩余9项Totalnumberofhouseholds、Propertymanagementfee（/m2/monthUSD）、lon、lat、X、Y、above-groundparkingfee（/monthUSD）、adcode、citycode的比重则分别为：0.07%、0.07%、0.04%、0.04%、0.02%、0.02%、0.02%、0.00%、0.00%。

模型评估结果?MACROBUTTONDoFieldClick[]

指标

说明

训练集时

测试集时

R方值

拟合程度指标，0~1之间越大越好

1.000

-43.618

平均绝对误差值MAE

L1损失，真实值与拟合值的平均值差值，越接近于0越好

0.037

1143.182

均方误差MSE

L2损失，误差平方和均值，越接近于0越好

0.002

1435534.073

均方误差根RMSE

MSE开根号，平均gap值

0.047

1198.138

中位数绝对误差MAD

预测值离中位数残差的绝对值，不受异常值影响，越小越好

0.029

988.357

平均绝对百分误差MAPE

平均误差百分比，不受异常点影响，越小越好

0.000

0.003

可解释方差分EVS

衡量模型对数据波动的解释力度，介于[0,1]之间，越大越好

1.000

-2.999

均方根对数误差MSLE

在RMSE相同时，其对欠预测惩罚更多（使用较