数据挖掘技术(20200922011052).pdfVIP

数据挖掘技术（二）——分类 (2012-05-05 17:04:16) 转载▼ 标签： 分类： 算法 算法 杂谈 2、分类 1、过分拟合问题： 造成原因有：（ 1）噪声造成的过分拟合（因为它拟合了误标记的训练记录，导 致了对检验集中记录的误分类）；（ 2 ）根据少量训练记录做出分类决策的模型 也容易受过分拟合的影响。 （由于训练数据缺乏具有代表性的样本， 在没有多少 训练记录的情况下， 学习算法仍然继续细化模型就会产生这样的模型， 当决策树 的叶节点没有足够的代表性样本时，很可能做出错误的预测）（ 3 ）多重比较也 可能会导致过分拟合 （大量的候选属性和少量的训练记录最后导致了模型的过分 拟合） 2、泛化误差的估计： （1）乐观估计（决策树归纳算法简单的选择产生最低训练误差的模型作为最终 的模型）（ 2 ）悲观误差估计（使用训练误差与模型复杂度罚项的和计算泛化误 差） （3）最小描述长度原则 （模型编码的开销加上误分类记录编码的开销）