机器学习第2章_概念学习.pptVIP

归纳偏置（2） 一个有偏的假设空间 在EnjoySport这个例子中，假设空间限制为只包含属性值的合取。（有偏） 这一限制，导致假设空间不能够表示最简单的析取形式的目标概念。 归纳偏置（3） 无偏的学习器 为了保证目标概念在假设空间中，需要提供一个假设空间，它能表达所有的可教授概念。换言之，它能表达实例集X的所有子集。 问题：为什么2.3节中合取假设空间只能表示973个假设？ 归纳偏置（4） EnjoySport的无偏形式 带来的问题：概念学习算法无法从训练样例中泛化。 要想获得单个目标概念，就必须提供X中所有实例作为训练样例 使用2.6.3节讨论的部分学习的无效 归纳偏置（5） 无偏学习的无用性 归纳学习的一个基本属性：学习器如果不对目标概念的形式做预先的假定，它从根本上无法对未见实例进行分类 归纳学习需要的预先假定，称为归纳偏置 归纳偏置（6） 归纳偏置的精确定义 (Dc?xi) L(xi,Dc) 需要在Dc?xi上附加怎样的前提，以使L(xi,Dc) 能够演绎派生。 L的归纳偏置定义为前提集合B，使所有的新实例满足： (B?Dc?xi) ├ L(xi,Dc) 考虑对于实例集合X的概念学习算法L。令c为X上定义的任一概念，并令Dc为c的任意训练样例集合，L(xi,Dc) 表示经过Dc训练后L赋予实例xi的分类。L的归纳偏置是最小断言集合B，它使任意目标概念c和相