实数公理等价命题证明.docx

第5章评估假设 对假设的精度进行经验的评估是机器学习中的基本问题。本章介绍了用统计方法估计 假设精度,主要为解决以下三个问题:首先,已知一个假设在有限数据样本上观察到的精 度,怎样估计它在其他实例上的精度。其次,如果一个假设在某些数据样本上好于另一 个,那么一般情况下是否该假设更准确。第三,当数据有限时,怎样高效地利用这些数 据,通过它们既能学习到假设,还能估计其精度?由于有限的数据样本可能不代表数据的 一般分布,所以从这些数据上估计出的假设精度可能有误差。统计的方法,结合有关数据 基准分布的假定,使我们可以用有限数据样本上的观察精度来逼近整个数据分布上的真实 精度。 5.1 动机 多数情况下,对学习到的假设进行尽可能准确的性能评估十分重要。原因之一很简 单,是为了知道是否可以使用该假设。例如,从一个长度有限的数据库中学习,以了解不 同医疗手段的效果,就有必要尽可能准确地知道学习结果的正确性。另一原因在于,对假 设的评估是许多学习方法的重要组成部分。例如在决策树学习中,为避免过度拟合问题必 须进行后修剪,这时我们必须评估每一步修剪对树的精度产生的影响。因此,有必要了解 已修剪和未修剪树的精度估计中固有的可能误差。 当数据十分充足时,假设精度的估计相对容易。然而当给定的数据集非常有限时,要 学习一个概念并估计其将来的精度,存在两个很关键的困难: 估计的偏差(Bias in the e

文档评论(0)

1亿VIP精品文档

相关文档