人工智能20137.ppt

第七章 机器学习 7.1 机器学习的定义、研究意义与发展历史 7.2 机器学习的主要策略与基本结构 7.3 –7.7 几种常用的学习方法 7.8 知识发现 7.9 小结 7.1 机器学习的定义和发展历史 7.1.1 机器学习的定义 什么是机器学习 人类的最大特点：学习 目前我们怎样使计算机具有和人类一样强大的学习能力？ 机器学习的定义 顾名思义,机器学习是研究如何使用机器来模拟人类学习活动的一门学科。稍为严格的提法是：机器学习是一门研究机器获取新知识和新技 能,并识别现有知识的学问。 7.1.2 机器学习的发展史 机器学习的发展分为4个时期 第一阶段是在50年代中叶到60年代中叶，属于热烈时期。 第二阶段在60年代中叶至70年代中叶，被称为机器学习的冷静时期。 第三阶段从70年代中叶至80年代中叶，称为复兴时期。 机器学习的最新阶段始于1986年 。 机器学习进入新阶段的表现 机器学习已成为新的边缘学科并在高校形成课程。 综合各种学习方法 机器学习与人工智能问题的统一性观点正在形成。 各种学习方法的应用范围不断扩大。 数据挖掘和知识发现的研究已形成热潮 。 与机器学习有关的学术活动空前活跃 。 7. 2 机器学习的主要策略和基本结构 7.2.1 机器学习的主要策略 按照学习中使用推理的多少，机器学习所采用的策略大体上可分为4种———机械学习、通过传授学习、类比学习和通过事例学习。 机械学习 传授学习策略 类比学习系统 通过事例学习策略 7.2.2 机器学习系统的基本结构 1.学习系统的基本结构 2.影响学习系统设计的要素 影响学习系统设计的最重要因素是环境向系统提供的信息，或者更具体地说是信息的质量。 知识库是影响学习系统设计的第二个因素。知识的表示有特征向量、一阶逻辑语句、产生式规则、语义网络和框架等多种形式。 7.3 机械学习 1.机械学习模式 机械学习是机器学习最简单的学习方法。机械学习就是记忆，即把新的知识存储起来，供需要时检索调用，而不需要计算和推理。它是一种最基本的学习过程。 2.机械学习的主要问题 存储组织信息：要采用适当的存储方式，使检索速度尽可能地快。 环境的稳定性与存储信息的适用性问题： 机械学习系统必须保证所保存的信息适应于外界环境变化的需要。 存储与计算之间的权衡：对于机械学习来说很重要的一点是它不能降低系统的效率。 7.4 归纳学习 归纳学习（induction learning）是应用归纳推理进行学习的一种方法。根据归纳学习有无教师指导，可把它分为示例学习和观察与发现学习。 7.4.1 归纳学习的模式和规则 — 归纳学习的模式 —归纳概括规则 将常量转化为变量 (c1,红桃) ∧ (c2,红桃) ∧ (c3,红桃) ∧ (c4,红桃) ∧ (c5,红桃) →同花(c1, c2, c3, c4, c5) (c1,梅花) ∧ (c2,梅花) ∧ (c3,梅花) ∧ (c4,梅花) ∧ (c5,梅花) →同花(c1, c2, c3, c4, c5) (c1,方片) ∧ (c2,方片) ∧ (c3,方片) ∧ (c4,方片) ∧ (c5,方片) →同花(c1, c2, c3, c4, c5) …… (c1, x) ∧ (c2, x) ∧ (c3, x) ∧ (c4, x) ∧ (c5, x) → 同花(c1, c2, c3, c4, c5) —归纳概括规则 将取消部分条件 CTX ∧S →K 等价于CTX →K —归纳概括规则 放松条件 (c1,J) →花脸(c1) (c1, Q) →花脸(c1) (c1, K) →花脸(c1) …… (c1, J ) ∨ (c1, Q) ∨ (c1, K) →花脸(c1) 归纳学习是研究得比较深入的一种机器学习形式，可分为两类：有指导的学习和无指导的学习，前者也叫示例学习，后者称为观察与发现学习。示例学习主要包括两种学习算法，即覆盖算法和决策树算法(也叫分治算法)。 归纳学习的算法理论(或称计算学习理论)相对研究得比较透彻，因而构成了比较完整的体系。本章将介绍有指导学习的覆盖算法。 7.4.2 覆盖算法 一、 版本空间与覆盖 1. 实例与概念 有指导的学习是通过对实例的指示，具体来说就是指明哪些是正例、哪些是反例，从而指导机器根据正例和反例的集合得到更加抽象的表示，即概念。所以叫做示例学习。这样的学习过程就是从实例中归纳出可以概括例子的某种概念的过程。 2. 概念的层次 概念根据抽象程度不同，可以分成若干层次。上一层次的概念可以包含(或者叫覆盖)下一层次的概念，直到最