人工智能经典电子书ml_19_20180929_Bagging与随机森林.pdfVIP

Bagging与随机森林

课程大纲

•2018.9.15

•集成学习

•实战

•2018.9.22

•Boosting与Adaboost

•实战

•2018.9.29

•Bagging与随机森林

•实战

Bagging与Boosting

•集成学习有两个流派

•一个是boosting派系，它的特点是各个弱学习

器之间有依赖关系。

•另一种是bagging流派，它的特点是各个弱学习

器之间没有依赖关系，可以并行拟合。

bagging的原理

•Bagging的弱学习器之间的确没有boosting那样的联系

•“随机采样”

随机采样

•随机采样(bootsrap)就是从我们的训练集里面采

集固定个数的样本，但是每采集一个样本后，都

将样本放回。也就是说，之前采集到的样本在放

回后有可能继续被采集到。对于我们的Bagging

算法，一般会随机采集和训练集样本数m一样

个数的样本。这样得到的采样集和训练集样本的

个数相同，但是样本内容不同。如果我们对有m

个样本训练集做T次的随机采样，则由于随机

性，T个采样集各不相同。

随机采样