人工智能及其应用_机器学习教程解析.pptVIP

第七章 机器学习 7.1 机器学习的定义和发展历史 7.2 　机器学习的主要策略与基本结构 7.3 　归纳学习 7.4 　决策树学习 7.5 　类比学习 7.6 　解释学习 7.7 　神经网络学习 7.8 知识发现 7.1 机器学习的定义和发展历史 机器学习的定义 机器学习的基本概念： 按照人工智能大师西蒙的观点，学习就是系统在不断重复的工作中 对本身能力的增强或者改进，使得系统在下一次执行同样任务或类似任 务时，会比现在做得更好或效率更高。 7.1 机器学习的定义和发展历史 机器学习的发展史 机器学习是人工智能应用研究较为重要的分支，它的发展过程大体上可分为4个时期： 　　1.第一阶段是在50年代中叶到60年代中叶，属于热烈时期。 　　2.第二阶段在60年代中叶至70年代中叶，被称为机器学习的冷静时期。 　　3.第三阶段从70年代中叶至80年代中叶，称为复兴时期。 　　4.机器学习的最新阶段始于1986年。一方面，由于神经网络研究的重新兴起，另一方面，对实验研究和应用研究得到前所未有的重视。我国的机器学习研究开始进入稳步发展和逐渐繁荣的新时期。 7.1 机器学习的定义和发展历史 机器学习进入新阶段的表现 机器学习已经成为新的边缘学科并在高校形成课程 综合各种学习方法 机器学习与人工智能问题的统一性观点正在形成 各种学习方法的应用范围不断扩大 数据挖掘和知识发现的研究已经形成热潮 与机器学习有关的学术活动空前活跃 7.2 机器学习的主要策略与基本结构 四种学习策略 机械学习 示教学习 类比学习 示例学习 学习系统的基本结构 影响学习系统设计的重要因素 (1)影响学习系统设计的最重要的因素是环境向系统提供的 信息。 (2)知识库是影响学习系统设计的第二个因素。知识的表示 有多种形式，在选择表示方式时要兼顾以下4个方面： 表达能力强 易于推理 容易修改知识库 知识表示易于扩展。 7.3机械学习 1、机械学习的模式 　 机械学习是最简单的机器学习方法。机械学习就是记忆，即把新的知识存储起来，供需要时检索调用，而不需要计算和推理。 机械学习又是最基本的学习过程。任何学习系统都必须记住它们获取的知识。在机械学习系统中，知识的获取是以较为稳定和直接的方式进行的，不需要系统进行过多的加工。 2、数据化简 　　Lenat,Hayes Roth，和Klahr等人于1979年关于机械学习提出一种有趣的观点。他们指出，可以把机械学习看成是数据化简分级中的第一级。数据化简与计算机语言编译类似；其目的是把原始信息变成可执行的信息。在机械学习中我们只记忆计算的输入输出，忽略了计算过程，这样就把计算问题化简成存取问题。见下图 2、数据化简 3、主要问题 　 对于机械学习，需要注意3个重要的问题：存储组织，稳定性和存 储与计算之间的权衡。 　 （1）存储组织信息：采用适当的存储方式，使检索速度尽可能地 快，是机械学习中的重要问题。 　 （2）环境的稳定性与存储信息的适用性问题：机械学习系统必须保 证所保存的信息适应于外界环境变化的需要，这也就是所谓的信息适用 性问题。 　 （3）存储与计算之间的权衡：对于机械学习来说很重要的一点是 它不能降低系统的效率。 考虑一个决定受损汽车修理费用的汽车保险程序 　 这个程序的输入是被损坏的汽车的描述，包括制造厂家、生产年代、汽车的种类以及记录汽车被损坏部位和损坏程度的一个表，程序的输出是保险公司应付的修理费用。这个系统是个机械记忆系统。为了估算损坏汽车的修理费用，程序系统必须在存储器中查找同一厂家、同一生产年代、损坏的部位和程度相同的汽车，然后把对应的费用提交给用户。如果系统没有发现这样的汽车，则它使用保险公司公布的赔偿规则估算出一个修理费用，然后把厂家、生产日期和损坏情况等特征与估算出的费用保存起来，以便将来查找使用。 7.3 归纳学习 归纳学习的定义 　　（1）归纳（induction）是人类拓展认识能力的重要方法，是一种从个别到一般的，从部分到整体的推理行为。 　　（2）归纳推理是应用归纳方法，从足够多的具体事例中归纳出一般性知识，提取事物的一般规律；它是一种从个别到一般的推理。在进行归纳时，一般不可能考虑全部相关实例，因而归纳出的结论不是绝对为真的，只能以某种程度相信它为真。 　　（3）归纳学习（induction learning）是应用归纳推理进行学习的一种方法。根据归纳学习有无教师指导，可把它分为示例学习和观察与发现学习。前者属于有师学习，后者属于无师学习。 7.3 归纳学习 我们先看一个“公鸡归纳法”的故事。 某农妇养小鸡十只，公母各半。她预备