AI6章符号学习精编.ppt

第6章 符号学习 按照机器学习对人类学习方式的模拟，可分为符号学习和联结学习两大类，符号学习本章讨论，联结学习下章讨论。 6.1 符号学习概述 6.1.1 学习的概念 6.1.2 机器学习的概念 6.1.3 机器学习系统的基本模型 6.2 记忆学习 6.3 示例学习 6.4 决策树学习 6.5 统计学习 6.1.1 学习的概念 1. 学习的心理学观点 基于脑科学和认知科学对人类学习机理的认识，心理学有两种观点： 联结论观点：学习的实质是联结的形成； 认知论观点：学习的实质是学习者头脑中认知结构的变化。 这些改变既包括行为，也包括行为潜能；既包括感知、记忆、想象、思维等内部心理过程，也包括语言、表情、动作等外部活动。 心理学的学习概念，主要有以下三个核心要点： (1) 学习的发生以行为和行为潜能的变化为标志。 学习总会引起行为的改变，并且这种改变可以是外显的，也可以是内隐的，即“行为潜能”的改变。 (2) 学习是由经验引起的行为改变。 经验是一个人通过活动直接与客观世界相互作用的过程或在这一过程中所得到的结果。只有因经验而引起的行为改变才是学习。 (3) 学习所引起的行为变化时间比较持久。 学习对行为的影响时间一般比较长，只有当旧的学习被新的学习代替时，旧的行为变化才会消失。 6.1.1 学习的概念 1. 学习的人工智能观点 在人工智能领域，对学习的概念有多种不同的解释。其中，影响最大的观点有以下几种： (1) 西蒙（Simon，1983）：学习就是系统中的适应性变化，这种变化使系统在重复同样工作或类似工作时，能够做得更好。 (2) 明斯基（Minsky，1985）：学习是在人们头脑里（心理内部）有用的变化。 (3) 米哈尔斯基（Michalski，1986）：学习是对经历描述的建立和修改。 这些观点虽然不尽相同，但却都包含了知识获取和能力改善这两个主要方面。其中 知识获取是指获得知识、积累经验、发现规律等。 能力改善是指改进性能、适应环境、实现自我完善等。 二者之间，知识获取是学习的核心，能力改善是学习的结果。 学习的一般性解释： 学习是一个有特定目的的知识获取和能力增长过程，其内在行为是获得知识、积累经验、发现规律等，其外部表现是改进性能、适应环境、实现自我完善等。 6.1.2 机器学习的概念 1. 什么是机器学习 一般性解释 机器学习就是让机器（计算机）来模拟和实现人类的学习功能。 学科性解释 是一门研究如何利用机器模拟或实现人类学习功能的学科。 主要研究内容 认知模拟 通过对人类学习机理的研究和模拟，从根本上解决机器学习方面存在的种种问题。 理论性分析 从理论上探索各种可能的学习方法，并建立起独立于具体应用领域的学习算法。 面向任务的研究 根据特定任务的要求，建立相应的学习系统。 按机器学习的研究途径和研究目标，机器学习课划分为以下4个阶段： (1) 神经元模型研究 20世纪50年代中期到60年代初期，也被称为机器学习的热烈时期，最具有代表性的工作是罗森勃拉特1957年提出的感知器模型。 (2) 符号概念获取 20世纪60年代中期到70年代初期。其主要研究目标是模拟人类的概念学习过程。这一阶段神经学习落入低谷，称为机器学习的冷静时期。 (3) 知识强化学习 20世纪70年代中期到80年代初期。人们开始把机器学习与各种实际应用相结合，尤其是专家系统在知识获取方面的需求，也有人称这一阶段为机器学习的复兴时期。 (4) 连接学习和混合型学习 20世纪80年代中期至今。把符号学习和连接学习结合起来的混合型学习系统研究已成为机器学习研究的一个新的热点。 6.1.2 机器学习的概念 2. 机器学习的发展过程 按机器学习系统的含义 是指能够在一定程度上实现机器学习系统。 6.1.2 机器学习的概念 3. 机器学习系统 机器学习系统的典型定义 萨利斯(Saris) 1973年的解释： 如果一个系统能够从某个过程和环境的未知特征中学到有关信息，并且能把学到的信息用于未来的估计、分类、决策和控制，以便改进系统的性能，那么它就是学习系统 史密斯(Smith) 1977年给出的解释： 如果一个系统在与环境相互作用时，能利用过去与环境作用时得到的信息，并提高其性能，那么这样的系统就是学习系统 6.1.2 机器学习的概念 3. 机器学习系统