原创力文档- 1、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。。
- 2、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
- 4、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
- 5、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
SPSSAU-在线SPSS分析软件
Xgboost模型SPSSAU
Xgboost模型
Contents
1背景2
2理论2
3操作3
4SPSSAU输出结果3
5文字分析4
6剖析6
在机器学习应用中，Xgboost模型作为一种集成算法，其在数据量较大时表现较出色，并且有着较高
的准确性，以及其具有一定的可解释性，可提供各特征项的重要性评估指标，而且xgboost模型时可加入
正则项，有效地控制过拟合问题。Xgboost当前在各个领域有着较为广泛的应用，与其它的机器学习算法
类似，其通常也用于分类和预测数据，当然也可使用其进行特征选择等。
SPSSAU-在线SPSS分析软件
Xgboost模型案例
Contents
1背景2
2理论2
3操作3
4SPSSAU输出结果3
5文字分析4
6剖析6
1背景
当前有一项关于‘信用卡交易欺诈’的数据科学研究，已整理好数据共为1000条，其包括六项，分
别是换设备次数，支付失败次数，换IP次数，换IP国家次数，交易金额和欺诈标签，欺诈标签时，数字
1表示欺诈，数字0表示没有欺诈行为，现希望通过xgboost进行模型构建，并且做一些预测工作，部分
数据如下图所示：
2理论
在进行xgboost模型时，其涉及参数如下表所述：
参数说明参数值设置
提升器类型构建模型的算法方式，通常使用gbtree:树模型，适用于大多数情况；
树模型较多gblinear:线性模型，特征数量远大于样本量时
可考虑使用；
dart:DART算法，数据集较大时可考虑，但会
增加过拟合风险
学习器数量用于构建的树的数量默认是100
学习率模型参数更新步长，越小收敛越其范围介于(0.0,1.0]默认0.1
快，但迭代次数越多
树最大深度树的深度越大，则对数据的拟合默认是6
程度越高（过拟合程度也越高）
样本采样率训练每棵树时所使用的样本的比其范围介于(0.0,1.0]，默认1.0
例
SPSSAU-在线SPSS分析软件
特征采样率训练每棵树时所使用的特征的比其范围介于(0.0,1.0]，默认1.0
例
最小子节点权重树的每个叶子节点上的所有样本其范围介于[0.0,+∞]，默认1.0
的权重和最小值
分裂收益阈值用来比较每次节点分裂带来的收其范围介于[0.0,+∞]，默认0.0
益，效控制节点的过度分裂
L1正则化通过在目标函数中添加L1范数的其范围介于[0.0,+∞]，默认0.0
惩罚来防止过拟合。较大的alpha
值会导致模型的权重更加稀疏，
从而有助于进行特征选择
L2正则化通过在目标函数中添加
文档评论（0）