- 2
- 0
- 约3.46千字
- 约 10页
- 2026-11-16 发布于河北
- 举报
XGBoost常见面试题及详细答案
1.简述XGBoost的基本原理,它和GBDT的核心区别是什么?
答案:
XGBoost属于梯度提升树模型,基础单元是CART回归树,采用加法模型,逐轮训练弱学习器,每一棵树都去拟合前面所有树累加结果的残差方向,不断降低损失。
GBDT在更新的时候,只利用损失函数的一阶导数(梯度);XGBoost同时用到损失函数的一阶导数和二阶导数,相当于在做牛顿法优化,收敛速度更快。
除此之外,XGBoost额外增加了正则项来控制树的复杂度,支持列采样、行采样,内置缺失值自动分裂策略,并且做了大量工程层面的优化,比如预排序、分桶、缓存优化、并行分裂。
2.XGBoost的目标函数由哪两部分组成,写出公式并解释每一项含义
答案:
目标函数:
L
i=
k=
树复杂度正则定义:
Ω
T:当前这棵树的叶子节点数量
wj:第j
γ:叶子数量惩罚系数,控制叶子不要过多
λ:叶子权重的L2正则系数,限制叶子输出不要太大
3.为什么XGBoost要用二阶导数,只用一阶导数会有什么问题?
答案:
一阶导数只代表损失下降的方向,不知道这个方向上损失的曲率,步长选择比较盲目。二阶导数可以反映损失在该点的凹凸程度,相当于知道梯度变化快慢,可以算出更合适的更新步长,收敛更快,迭代轮次更少。
只用一阶导数就是传统GBDT的思路,等价于梯度下
您可能关注的文档
- SAT试题资源下载渠道与使用说明.docx
- SHL综合能力模拟测试卷.docx
- SLG游戏策划面试题(含参考答案).docx
- SMC自动化岗位应聘笔试题.docx
- SMT制程工程师考核试题.docx
- solo试题含义专项练习题.docx
- SPC统计过程控制考试试卷.docx
- SPF级实验动物饲养与管理培训考核试卷.docx
- SQL常见面试题及参考答案.docx
- SQL面试50题(含详细参考答案).docx
- T∕CCMA 0198-2024 高原隧道电动工程机械用动力电池电性能要求及实验室试验方法 .docx
- T∕CES 211-2023 串联式电伴热带.docx
- T∕CCMA 0206-2024 混凝土机械 液压平衡阀.docx
- T∕CNCIA 01034-2024 非重复充装焊接钢瓶用水性涂料.docx
- 88JZ8 住宅厨卫排风道.docx
- T∕CES 266-2023 配电设施防洪涝设计规程.docx
- T∕CES 197-2023 电缆屏蔽用铝合金带 .docx
- T∕CECA-G 0053-2020 “领跑者”标准评价要求 电饭锅.docx
- T∕CERS 0128-2025 虚拟电厂运营商技术支持系统技术要求.docx
- T∕CPF 0094-2025 碳纤维包装箱 .docx
最近下载
- 公司招聘简章.pdf
- 大家的日语初级一 第24课 课件(版本2).pptx VIP
- 水冷散热器散热面积的计算.pdf VIP
- (高清版)DG∕TJ 08-2005-2021 城市轨道交通机电设备安装工程质量验收标准.pdf VIP
- 德育能手考试1.doc VIP
- 中 共福建省委党校在职研究生毕业论文开题报告.doc VIP
- Leber遗传性视神经病变.pptx VIP
- 2026年广东省深圳市南外集团中考英语一模试卷.docx VIP
- Unit 1 The Mass Media Integrated Skills 课件高中英语译林版(2020)选择性必修第二册.pptx VIP
- 2026年人教版六年级上册科学单元提升卷第二单元试卷.docx
原创力文档

文档评论(0)