2-概念学习和一般到特殊.pptVIP

归纳推理与演绎推理归纳推理：从已知的事实或知识向未知的事实或知识推论的过程。一般包括两种形式：从特殊到一般的推理：墨斗鱼体内含有一种X血清=深海鱼体内含有一种X血清从特殊到特殊的推理：小明在家里爱哭闹=小明在幼儿园也爱哭闹特征：归纳推理中，假设前提为真，但结论未必为真归纳力度：归纳中前提对结论的支持程度分为强/弱归纳推理与演绎推理演绎推理：从已知事实或知识得出必然为真的结论的推论过程如：所有的动物都具有X性质，A是一种动物，A具有X性质特征：演绎推理中，假设前提为真，则结论必然为真（前提和结论之间的联系是必然的）逻辑的有效性：演绎推理中由前提是否能够必然推出结论，分为有效和无效对G和S的理解:对于所求概念的新例子S集是其充分条件，G集是其必要条件。即：S集中的元素一定满足所求概念；满足所求概念的例子一定满足G集中的元素。期望所设计的算法最终有G=S，即找到充要条件。假设整个实例空间有8个实例(x1,x2,x3,x4,x5,x6,x7,x8)，x6,x7,x8是未见实例，则变形空间为：S边界：(x1,x2,x3)(x1,x2,x3,x6)(x1,x2,x3,x7,)(x1,x2,x3,x8)G边界：(x1,x2,x3,x6,x7)(x1,x2,x3,x6,x8)(x1,x2,x3,x7,x8)(x1,x2,x3,x4,x5,x6,x7,x8)用这个变形空间求未见实例的目标值，刚好一半正例，一半反例！**2.5变型空间和候选消除算法（11/12）训练样例:4.Sunny,Warm,High,Strong,Cool,Change,EnjoySport=Yes候选消除算法步骤3**2.5变型空间和候选消除算法（12/12）EnjoySport概念学习问题中的最终的变型空间**2.6关于变型空间和候选消除算法的说明（1）一、候选消除算法是否会收敛到正确的假设由候选消除算法得到的变型空间能够收敛到描述目标概念的假设的条件是:(1)在训练样例中没有错误。(2)H中确实包含描述目标概念的正确假设。当S和G边界集合收敛到单个的可确定的假设时，目标概念才真正获得。如果训练数据中包含错误,算法肯定会从变型空间中删除正确的目标概念。如果给定足够的训练数据，最终，我们会发现S和G边界收敛得到一个空的变型空间，从而得知训练数据有误。训练样例正确，但目标概念不能由假设表示方式所描述(比如目标概念是某几个属性特征的析取)。目前，我们只考虑样例数据是正确的并且目标概念确实在假设空间中。**2.6关于变型空间和候选消除算法的说明（2）二、下一步需要什么样的训练样例（使变型空间能够尽快收敛到单个的可确定的假设）学习器应试图在当前变型空间中选择假设，以进一步划分该空间。因此，需要选择的实例需满足:它能被变型空间中一些假设分类为正例，另一些分类为反例。其中一个这样的实例是:Sunny，Warm，Normal，Light，Warm，Same注意:这一实例满足变型空间的6个假设中的3个。如果施教者将实例划分为正例，变型空间的S边界就需要被一般化。相反，G边界需要被特殊化。无论哪种情况，机器将能够学到更多的知识，以确定目标概念并将变型空间缩小到原来的一半。一般来说，概念学习的最优查询策略，是产生实例以满足当前变型空间中大约半数的假设。这样，变型空间的大小可以在遇到每个新样例时减半，正确的目标概念就可在只用log2lVS|次实验后得到。**2.6关于变型空间和候选消除算法的说明（3）三、怎样使用不完全学习概念机器现在要对未见过的实例进行分类。虽然目标概念还未完全学习到，但是仍然有可能对新样例进行一定可信度的分类。待分类的新实例InstanceSkyAirTempHumidityWindWaterForecastEujoySportASunnyWarmNormalStrongCoolChange?BRainyColdNormalLightWarmSame?CSunnyWarmNormalLight