最新2-概念学习和一般到特殊.pptVIP

* * 假设的一般到特殊序关系 两个假设： hl=Sunny，?，?，Strong，?，? h2=Sunny，?，?，?，?，? 任何被hl划分为正例的实例都会被h2划分为正例，因此，我们说h2比h1更一般。 定义:令hj和hk为在X上定义的布尔函数。称“hj和比hk更一般”： hj more_general_than_or_equal_to hk (记作hj?ghk)， 当且仅当(?x?X)[(hk(x)=1) ?(hj(x)=1)] 有必要考虑一假设严格地比另一假设更一般的情形： hjmore_general_than hk, (记作hjghk) ， 当且仅当hj?ghk)? hj ? ghk 最后，还可以定义逆向的关系“比……更特殊”为： hjmore_specific_than hk, 当且仅当hk more_general_than hj。 * * 实例、假设和more-general-than关系 x1= Sunny,Warm,High,Strong,Cool,Same x2=Sunny,Warm,High,Light,Warm,Same h1= Sunny,?,?,Strong.?,? h2＝Sunny,?,?,?,?,? h3＝Sunny,?,?,?,Cool,? * * 2.4Find－S：寻找极大特殊假设 思路： 从H中最特殊假设开始，然后在该假设覆盖正例失败时将其一般化(当一假设h能正确地划分一个正例时，即h能将正例正确地划分为正例，称该假设“覆盖”该正例)。 FIND-S算法简单地忽略每一个反例! 注意，这时假设h仍然与新的反例一致(即h能将反例正确地划分为反例)，因此不需要对h作任何更改。 * * 2.4Find－S：寻找极大特殊假设（1/5） Find-S算法 1.将h初始化为H中最特殊假设 2.对每个正例x（循环） 对h的每个属性约束ai 如果x满足ai 那么不做任何处理 否则将h中ai替换为x满足的更一般的约束 3.输出假设h * * 例: 假定给予学习器的一系列训练样例，如表2-1所示。 Example Sky AirTemp Humidity Wind Water Forecast EujoySport 1 Sunny Warm Normal Strong Warm Same Yes 2 Sunny Warm High Strong Warm Same Yes 3 Rainy Cold High Strong Warm Change No 4 Sunny Warm High Strong Cool Change Yes 2.4Find－S：寻找极大特殊假设（2/5） * * 2.4Find－S：寻找极大特殊假设（3/5） 例: 假定给予学习器的一系列训练样例如表2-1所示。 FIND-S的第一步是将h初始化为H中最特殊的假设: h? ?, ?, ?, ?, ?, ? 观察第一个训练样例时，它刚好是个正例，这时的h太特殊了。每个属性应该都被替换成能拟合该例的下一个更一般的值约束： h ? Sunny，Warm，Normal，Strong，Warm，Same 第2个训练样例(仍然为正例)迫使该算法进一步将h一般化。这样假设变为: h ? Sunny，Warm，?，Strong，Warm，Same 处理第3个训练样例，这是一个反例，h不变。 第4个正例使得h更一般: h ? Sunny，Warm，?，Strong，?，? * * 2.4Find－S：寻找极大特殊假设（4/5） * * 2.4Find－S：寻找极大特殊假设（5/5） Find-S算法的重要特点是: 对以属性约束的合取式描述的假设空间(如，EnjoySport中的H ), Find- S保证输出为H中与正例一致的最特殊的假设。只要正确的目标概念包含在H中，并且训练数据都是正确的，最终的假设也与所有反例一致。 Find-S算法仍存在一些未解决的问题: 学习过程是否收敛到了正确的目标概念?（还有其它假设？） 为什么要用最特殊的假设。（不用更一般的？） 训练样例是否相互一致?（有噪声？） 如果有多个极大特殊假设怎么办?（可