《分类预测-决策树方法.pptVIP

下载本文档

3
0
约1.47万字
约 46页
2016-12-30 发布于北京
举报
版权申诉

《分类预测-决策树方法.ppt

1、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。。
2、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击这里二次下载。
3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
4、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
5、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
6、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
7、VIP文档为合作方或网友上传，每下载1次，网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档

* 数据库新技术 (数据挖掘) * / 34 4.2 C4.5的修剪算法滞后修剪将生成树转换成规则再修剪，自己阅读从叶子节点向上逐层修剪误差估计，在训练样本集上估计误差通常，估计生成的决策树在测试集上的预测误差修剪标准修剪示例 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. * 数据库新技术 (数据挖掘) * / 34 4.2.1 避免过度拟合数据过度拟合对于一个假设h，如果存在其他的假设对训练样例的拟合比它差，但在实例的整个分布上却表现得更好时，我们说这个假设h过度拟合训练样例定义：给定一个假设空间H，一个假设h?H，如果存在其他的假设h’?H，使得在训练样例上h的错误率比h’小，但在整个实例分布上h’的错误率比h小，那么就说假设h过度拟合训练数据。图3-6的例子，说明树的尺寸(节点数)对测试精度和训练精度的影响——避免过度拟合必须控制树尺寸! Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. * 数据库新技术 (数据挖掘) * / 34 Overfitting Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. * 数据库新技术 (数据挖掘) * / 34 避免过度拟合必须控制树尺寸 High accuracy, small error Low accuracy, big error Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. * 数据库新技术 (数据挖掘) * / 34 避免过度拟合数据（2）导致过度拟合的原因一种可能原因是训练样例含有随机噪声当训练数据没有噪声时，过度拟合也有可能发生，特别是当少量的样例被关联到叶子节点时，很可能出现巧合的规律性，使得一些属性恰巧可以很好地分割样例，但却与实际的目标函数并无关系。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. * 数据库新技术 (数据挖掘) * / 34 避免过度拟合数据（3）避免过度拟合的方法及早停止树增长后修剪法两种方法的特点第一种方法更直观，但是精确地估计何时停止树增长很困难第二种方法被证明在实践中更成功 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. * 数据库新技术 (数据挖掘) * / 34 避免过度拟合数据（4）避免过度拟合的关键使用什么样的准则来计算最终决策树的尺寸解决方法使用与训练样例不同的一套分离的样例来评估通过后修剪方法从树上修剪节点的效用。使用所有可用数据进行训练，但进行统计测试来估计扩展（或修剪）一个特定的节点是否有可能改善在训练集合外的实例上的性能。使用一个显式的标准来测度训练样例和决策树的编码复杂度，当这个测度最小时停止树增长。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. * 数据库新技术 (数据挖掘) * / 34 避免过度拟合数据（5）方法评述第一种方法是最普通的，常被称为训练和验证集法可用的数据分成两个样例集合：训练集合，形成学习到的假设验证集合，评估这个假设在后续数据上的精度方法的动机：即使学习器可能会被训练集合误导，但验证集合不大可能表现出同样的随机波动验证集合应该足够大，以便它本身可提供具有统计意义的实例样本。常见的做法是，样例的三分之二作训练集合，三分之一作验证集合。 Evalua