人工智能第七章.ppt

中南大学 智能系统与智能软件研究所 7.1 机器学习的定义和发展历史 顾名思义，学习活动的一门学科。稍为严格的提法是：机器学习是一门研究机器获取新知识和新技能，并识别现有知识的学问。 7.1.3 机器学习的发展史 机器学习的发展分为4个时期: 第一阶段是在50年代中叶到60年代中叶，属于热烈时期。 7.1.3 机器学习的发展史 机器学习的发展分为4个时期: 第二阶段在60年代中叶至70年代中叶，被称为机器学习的冷静时期。这一阶段神经学习落入低谷。 7.1.3 机器学习的发展史 机器学习的发展分为4个时期: 第三阶段从70年代中叶至80年代中叶，称为复兴时期。 7.1.3 机器学习的发展史 机器学习的发展分为4个时期: 机器学习的最新阶段始于1986年 。 机器学习进入新阶段的表现 机器学习已成为新的边缘学科，并在高校形成课程。它综合应用心理学、生物学和神经生理学以及数学、自动化和计算机科学形成机器学习理论基础。 机器学习进入新阶段的表现 7. 2 机器学习的主要策略和基本结构 　　　学习过程与推理过程是紧密相连的，按照学习中使用推理的多少，机器学习所采用的策略大体上可分为4种：机械学习、示教学习、类比学习和示例学习。 7.2.2 机器学习系统的基本结构 7.2.2 机器学习系统的基本结构 2.影响学习系统设计的要素 影响学习系统设计的最重要因素是环境向系统提供的信息，或者更具体地说是信息的质量。整个过程要遵循“取之精华，弃之糟粕”的原则，同时谨记“实践是检验真理的唯一标准”。 1.机械学习模式 2.机械学习的主要问题 存储组织信息：要采用适当的存储方式，使检索速度尽可能地快。 7.4 归纳学习 归纳学习（induction learning）是应用归纳推理进行学习的一种方法。根据归纳学习有无教师指导，可把它分为示例学习和观察与发现学习。前者属于有师学习，后者属于无师学习。 7.4 归纳学习 7.4.1 归纳学习的模式和规则 7.4 归纳学习 7.4.1 归纳学习的模式和规则 7.4 归纳学习 7.4.1 归纳学习的模式和规则 归纳学习的模式 7.5 类比学习 7.5.1 类比推理和类比学习方式 7.5 类比学习 7.5.1 类比推理和类比学习方式 7.5 类比学习 7.5.1 类比推理和类比学习方式 类比学习（learning by analogy）就是通过类比，即通过对相似事物加以比较所进行的一种学习 。 7.5.2 类比学习过程与研究类型 类比学习主要包括如下四个过程： 输入一组已知条件（已解决问题）和一组未完全确定的条件（新问题） 。 类比学习的研究可分为两大类： (1) 问题求解型的类比学习 7.6 解释学习 1986年米切尔（Mitchell）等人为基于解释的学习提出了一个统一的算法EBG，该算法建立了基于解释的概括过程，并运用知识的逻辑表示和演绎推理进行问题求解。 EBG求解问题的形式可描述于下: 给定： (1) 目标概念描述TC； (2) 训练实例TE； (3) 领域知识DT； (4) 操作准则OC。 7.7 神经学习 7.7.1 基于反向传播网络的学习 反向传播（Error back-propagation,BP）算法是一种计算单个权值变化引起网络性能变化值的较为简单的方法。 7.7.2 基于Hopfield网络的学习 7.7.2 基于Hopfield网络的学习 反馈神经网络，它是一种动态反馈系统，比前馈网络具有更强的计算能力。 7.8 知识发现（Knowledge Discovery，KDD ） 7.8.1 知识发现的发展和定义 7.8 知识发现 7.8.1 知识发现的发展和定义 知识发现的产生和发展 　　　知识发现最早是于1989年8月在第11届国际人工智能联合会议的专题讨论会上提出。随着互联网的发展，网上已设立了不少研究KDD的网站、论坛和新闻报导。在研究的基础上，也出现一些KDD产品和应用系统，引起企业界的关注。 7.8.2 知识发现的处理过程 1. 数据选择。根据用户的需求从数据库中提取与KDD相关的数据。 2. 数据预处理。主要是对上述数据进行再加工，检查数据的完整性及数据的一致性，对丢失的数据利用统计方法进行填补，形成发掘数据库。 7.8.3 知识发现的方法 1.统计方法：统计方法是从事物的外在数量上的表现去推断该事物可能的规律性。 2. 机器学习方法 7.8.4 知识发现的应用 知识发现已在许多领域得到应用。 本章小结 本章只对机器学习作入门介绍。 MATLAB中与Hopfiel