第8章 机器学习.ppt

第8章 机器学习 李长河主编 第8章 机器学习 与知识发现 第8章 机器学习与知识发现 8.1 机器学习的研究意义与发展史 8.2 机器学习的主要策略与基本结构 8.3 几种常用的学习方法 8.4 数据挖掘和知识发现方法 8.5 粗糙集和数据挖掘开发工具简介 第8章 机器学习与知识发现 　　机器学习是当前人工智能和神经计算的核心研究课题之一。现有的AI系统只有非常有限的学习能力，不能满足科技和生产提出的新要求。本章将首先介绍机器学习的定义、意义和简史，然后讨论机器学习的主要策略及其各种获取知识的方法与技术。主要包括：机械学习、基于解释的学习、基于事例的学习、基于概念的学习、类比学习和基于训练神经网络的学习等。对机器学习的讨论和机器学习研究的进展，必将促使人工智能和整个科学技术的进一步发展。现在我们先来讨论机器学习的研究意义。 8.1 机器学习的研究意义与发展史 学习是人类具有的一种重要智能行为，但究竟什么是学习，社会学家、逻辑学家和心理学家都各有其不同的看法。 人工智能大师西蒙认为：学习就是系统在不断重复的工作中对本身能力的增强或者改进，使得系统在下一次执行同样任务或类似任务时，会比现在做得更好或效率更高。西蒙对学习给出的定义本身，就说明了学习的重要作用。 8.1 机器学习的研究意义与发展史 机器能否象人类一样能具有学习能力呢？1959年美国的塞缪尔(Samuel)设计了一个下棋程序，该程序具有学习能力，它可以在不断的对奕中改善自己的棋艺。起先，程序下不过设计者；后来，设计者下不过程序；再后来，程序还战胜了美国一个洲的冠军。从而向人们展示了机器学习的能力，提出了许多令人深思的社会问题与哲学问题。 8.1 机器学习的研究意义与发展史 机器的能力是否能超过人呢？很多人认为：机器是人造的，其性能和动作完全是由设计者规定的，因此无论如何其能力也不会超过设计者本人。但是，对具备学习能力的机器来说，其能力可在应用中不断地提高，过一段时间之后，甚至设计者本人也不知它的能力达到了何种水平。 8.1 机器学习的研究意义与发展史 什么叫做机器学习(machine learning)？至今，还没有一个统一定义。顾名思义，机器学习是研究如何使用机器来模拟人类学习活动的一门学科。 更为严格的提法是：机器学习是一门研究机器获取新知识和新技能，并识别现有知识的学问。这里所说的“机器”，就是计算机；以后还将可能是中子计算机、光子计算机或神经计算机等等。 8.1 机器学习的研究意义与发展史 机器学习在AI研究中是较为年轻的分支，发展过程大体可分为4个时期： 第一阶段50年代中到60年代中期，属于热烈时期； 第二阶段从60年代中至70年代中期，称为机器学习的冷静时期； 第三阶段从70年代中至80年代中期，称为复兴时期； 机器学习的最新阶段始于1986年。 8.1 机器学习的研究意义与发展史 机器学习主要研究内容:主要围绕三个基本方面进行 1.学习机理的研究:比对人类获取知识与抽象概念等天赋能力学习机制研究，类比解决机器学习中存在的相关问题。 2.学习方法的研究：研究人类的学习过程，探索各种可能的学习方法，建立起独立于具体应用领域的学习算法。 3.面向任务的研究：根据特定任务的要求，建立相应的学习系统。 与机器学习有关的学术活动空前活跃。国际上每年都要举行一次机器学习研讨会，还有计算机学习以及计算智能会议等。 8.2 机器学习的主要策略与基本结构 学习是一项复杂的智能活动，学习过程与推理过程是紧密相连的。 机器学习采用的策略大体分为四种： 1）机械学习；2）通过传授学习； 3）类比学习；4）通过事例学习等。 此外，还有强化学习、基于神经元网络的学习、遗传算法、蚁群算法等高级的智能学习。学习中使用的推理越多，表明系统的学习能力越强。 8.2 机器学习的主要策略与基本结构 我们以西蒙的学习定义做为出发点，建立起下图5.1所示的简单的学习模型，然后通过对这个简单模型的讨论，总结出设计学习系统应当注意的某些总的原则。? 8.2 机器学习的主要策略与基本结构 根据上述机器学习系统基本结构，环境向系统的学习部分提供某些信息；知识库用于存储学习得到的知识，它应是便于使用、便于维护的管理系统；学习部分是系统的核心，并用学习所得来修改知识库，以增进系统工作效能；执行部分则依据要求完成任务，同时把获得的信息反馈给学习部分。 在具体的应用中，环境，知识库和执行部分决定了具体的工作内容，影响学习系统设计的最重要因素之一是环境向系统所提供的信息质量优劣；知识库还存放了指导执行部分动作的一般原则。 8.2 机器学习的主要策略与基本结构 　 因为学习系统获得的信息往往是不完全的，所以学习系统所进行的推理并不完全是可靠的，它总结出来的