集成学习之投票法与随机森林原理及SKLearn实现.pdfVIP

投票法的原理

投票法是一种遵循少数服从多数原则的集成学习模型，通过整合多个模型的输出结果来降低方差，从而

提升模型的鲁棒性。在理想情况下，投票法的预测性能应当优于所有基模型单独预测时的表现。

投票法在回归模型与分类模型上均可使用：

回归投票法：预测结果是所有模型预测结果的平均值。分

类投票法：预测结果是所有模型中出现最频繁的预测结果。

分类投票法又可以被划分为硬投票与软投票：

硬投票：预测结果是所有投票结果中出现次数最多的类别。软投票：预测结果是所有投票结果

中概率加和最大的类别（要求参与投票的分类器能输出概率）。

sklearn中的投票方法

classsklearn.ensemble.VotingClassifier(estimators,*,voting=hard,

weights=None,n_jobs=None,flatten_transform=True,verbose=False)

classsklearn.ensemble.VotingRegressor(estimators,*,weights=None,n_jobs=None,

verbose=False)

方法中需要一个模型列表，列表中每个模型采用Tuple的结构表示，第一个元素代表名称，第二个