随机森林实验报告.docxVIP

随机森林实验报告 实验目的 实现随机森林模型并测试。 实验问题 Kaggle 第二次作业Non-linear classification 算法分析与设计 一．算法设计背景: 随机森林的原子分类器一般使用决策树，决策树又分为拟合树和分类树。这两者的区别在于代价估值函数的不同。 根据经验，用拟合树做分类的效果比分类树略好。 对于一个N 分类问题,它总是可以被分解为N 个 2 分类问题，这样分解的好处是其决策树更加方便构造，更加简单，且更加有利于用拟合树来构建分类树。对于每一个 2 分类问题，构造的树又叫CART 树，它是一颗二叉树。 将 N 个 2 分类树的结果进行汇总即可以得到多分类的结果。树构造： 1 v1.0 可编辑可修改 6.随机森林构造： 二．算法思路： 将一个N 分类问题转化为N 个二分类问题。转化方法是：构造 N 棵二叉拟合树，这里假设 N 为 26，然后我们给 N 棵二叉树依次标号为 1，2，3...26。1 号树的结果对应于该条记录是不是属于第一类，是则输出 1，否则输出号树的结果对应于该条记录是不是属于第二类， 是则 1 否则 0，依此类推。这样，我们的 26 棵二叉树的结果就对应了 26 个下标。 例如对于某条记录，这 26 个二叉树的结果按序号排列为{0，0，0，0，0，0，0，0，0，0， 0，0，0，0，0，...1,0}，那么这条记录的分类应该为 25