机器学习讲义.ppt

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 4 传授式学习 　 传授学习(Learning by Being Told或Learning by Instruction)又称为指点学习。这时，环境提供的信息较抽象，水平较高，学习环节把这些信息变换成执行环节使用的较低水平的信息。　　1.要求　　这是请求专家提出建议。有时对专家的要求是简单的，即请专家提供一般的建议。有时要求是复杂的，即请专家识别知识库的欠缺，并提出修改方法。有些系统是被动的，它消极等待专家提出建议。有些系统是主动的，它把专家注意力引向特定的问题。　　2.解释　　这是把专家建议转成内部表实，是知识表实问题。内部表实应包含建议的全部信息。如果用自然语言提出建议，解释过程应包括自然语言理解。 　　 4 传授式学习 3.实用化　　这是传授学习的信息变换过程，它把抽象的建议转成具体的知识。实用化过程类似于自动程序设计。前者由建议得到实用的规则，后者由程序说明得到程序。二者也存在差别。后者要求得到完全正确的程序，强调程序的正确性。前者往往使用弱方法，不保证完全正确。实用化过程有时作试探性的假设和近似，只能要求其合理性。得到的假设还要经过检验和修改。4.归并　　这是把新知识加入知识库。这有可能造成旧知识的错误使用。一个问题是新旧知识适用范围的重迭。另一个问题是它们结论的冲突。如果新旧规则的条件部分重迭，就会在该使用旧规则时错误使用了新规则。可以修改规则条件以防止重迭，也可以用元规则对规则排序。为了解决结论的冲突。可以修改规则，也可以用元规则选用合理的规则，排除不合理的。 　　 4 传授式学习 5.评价　　实用化得到的新知识往往是假设，要经过验证和修改。如果评价中发现了问题，要进行故障分析和知识库修改。　　上述五步中，实用化是过程的核心。正是在这一步实现信息水平的变换。Mostow(1981)按用途、论域和精度对实用化方法进行了分类，还给出实用化的13个例子。有的例子要经过约100次变换，有的只要8次变换。 　　传授学习的例子有Mostow的FOO和Davis的TEIRESLAS。TEIRESLAS通过和用户对话，把用户的一般性意见或指实具体化，或辅助用户修改知识库。该程序用产生式规则来选择合适的投资市场。 5 类比学习 类比学习(Learning by Analogy)是获取新概念或新技巧的方法，它把类似这些新概念或新技巧的已知知识转换为适于新情况的形式。类比学习的第一步是从记忆中找到类似的概念或技巧，第二步是把它们转换为新形式以便用于新情况。例如人类的一种学习方式是先由老师教学生解例题(先例)，再给学生留习题。学生寻找在例题和习题间的对应关系，利用解决例题的知识去解决习题中的问题。学生经过一般化归纳推出原理，以便以后使用。这种类比学习方式是人类常用的。 5 类比学习 5.1 学习新概念 利用类比学习方法学习新概念或新技巧时，它要把类似这些新概念或新技巧的已知知识转化为适于新情况的形式。 5 类比学习 5.2 学习问题的求解方法 问题求解基本过程：　 1.比较新状态与目标状态。　 2.选择可以减小这个差异的操作。　 3.如果前提满足就使用这个操作，否则保存新状态，并用中间结局 分析解决子问题，以便实现未满足的前提。　 4.在解决子问题后，再取出保存的状态，继续处理原问题。 　 转换类比学习主要有两步：回忆过程和变换过程。 　　回忆过程用于找出新旧问题间的差别，包括： 1.新问题与旧问题的初始状态之间的差异。 2.新问题与旧问题的目标状态之间的差异。 3.新问题与旧问题的路径约束之间的差异。 4.满足新问题的操作前提在全部前提中的比例，称为候选解的可用性。 6 归纳学习 1 实例学习 实例学习是通过从环境中取得若干与某概念有关的例子，经归纳得出一般性概念的一种学习方法。在这种学习方法中，外部环境(教师)提供的是一组例子(正例和反例)，这些例子实际上是一组特殊的知识，每一个例子表达了仅适用于该例子的知识，实例学习就是要从这些特殊知识中归纳出适用于更大范围的一般性知识，它将覆盖所有的正例并排除所有反例。例如，如果我们用一批动物作为实例，并且告诉学习系统哪一个动物是“马”，哪一个动物不是，当实例足够多时，学习系统就能一般出关于“马”的概念模型，使自己能识别马，并且能把马与其它动物区别开来，这一学习过程就是实例学习。 6 归纳学习 1 实例学习 实例学习的两个空间模型 6 归纳学习 2 观察与发现学习 1、概念聚类　　概念聚类就是