第七章机器学习.pptx

第七章 机器学习; 7.1 机器学习的定义和发展历史;7.1.1 机器学习的定义： 定义 7.3 机器学习是研究如何使用机器来模拟人类学习活动的一门学科。 定义 7.4 （稍为严格的提法）机器学习是一门研究机器获取新知识和新技能，并识别现有知识的学问。 定义 7.5 机器学习是研究机器模拟人类的学习活动、获取知识和技能的理论和方法，以改善系统性能的学科。 以上三种定义由浅入深，但是依旧是不完全的不充分的…… ;7.1.2 机器学习的发展史;机器学习进入新阶段的表现 机器学习已成为新的边缘学科并在高校形成课程。 综合各种学习方法 机器学习与人工智能问题的统一性观点正在形成。 各种学习方法的应用范围不断扩大。 数据挖掘和知识发现的研究已形成热潮 。 与机器学习有关的学术活动空前活跃 。 ;7. 2 机器学习的主要策略与基本结构;7.2.2 机器学习系统的基本结构 1.学习系统的基本结构 ;2.影响学习系统设计的要素 影响学习系统设计的最重要因素是环境向系统提供的信息，或者更具体地说是信息的质量。 知识库是影响学习系统设计的第二个因素。知识的表示有特征向量、一阶逻辑语句、产生式规则、语义网络和框架等多种形式。; 7.3 归纳学习; 归纳学习包括示例学习和观察发现学习。 1.归纳推理 （1）归纳推理是应用归纳方法所进行的推理，即从足够多的事例中归纳出一般性的知识，它是一种从个别到一般的推理。 ;2. 归纳概括规则;（3）沿概念树上溯 S为所有条件中的L值在概念分层树上最近的共同祖先，这是一种从个别推论总体的方法。 ; （4）形成闭合区域 L为具有线性关系的描述项，a,b是其特殊值。S表示[a,b]范围内的值。 ;（5）将常量转化成变量 这种规则仅从事例中提取各个描述项之间的某种相互关系，而忽略其他关系信息。 ;1. 示例学习（Learning by Examples） 示例学习又称为实例学习，它是通过从环境中若干与某概念有关的例子，经归纳得出一般性概念的一种学习方法。 在这种学习方法中，外部环境（教师）提供的是一组例子（正例和反例），这些例子实际上是一组特殊的知识，每一个例子表达了仅适用于该例子的知识，示例学习就是要从这些特殊知识中归纳出适合于更大范围的一般性知识。 ;例7.1 两种病的部分病例 ; 2.观察发现学习 观察发现学习分为观察学习与机器发现两种。前者用于对事例进行概念聚类，形成概念描述；后者用于发现规律，产生定律或规则。 ;(1) 概念聚类 把事例按一定的方式和准则进行分组，使不同的组代表不同的概念，并且对每一个组进行特征概括，得到一个概念的语义符号描述。 例如，对下列事物： 喜鹊、麻雀、布谷鸟、乌鸦、鸡、鸭、鹅…… 可根据它们是否家养分为如下两类： 鸟={喜鹊，麻雀，布谷鸟，乌鸦……} 家禽={鸡，鸭，鹅……} 这里，“鸟”和“家禽”就是由分类得到的新概念。 ;(2) 机器发现 经验发现——从经验数据中发现规律和定律； 知识发现——从观察的事例中发现新的知识。;7.4决策树学习;决策树由一系列节点和分支组成，在节点和子节点之间形成分支。节点代表决策或学习过程中所考虑的属性，而不同属性形成不同分支。 概念学习系统（CLS）是基于决策树的归纳学习系统;;;?;7.5 类比学习;类比推理过程 (1) 回忆与联想 通过回忆与联想，在S中找出与当前情况相似的情况，这些情况是过去已经处理过的，有现成的解决方法及相关的知识。 (2) 选择 从找出的相似情况中选出与当前情况最相似的情况及其有关知识，以便提高推理的可靠性。 (3) 建立对应关系 在S与T的相似情况之间建立相似元素的对应关系，并建立起相应的映射。 (4) 转换 根据映射，把S中的有关知识引到T中来，从而建立起求解当前问题的方法或者学习到关于T的新知识。 ;类比推理学习的步骤 (1) 找出源域与目标域的相似性质P，找出源域中另一个性质Q和性质P对元素a的关系：P(a)→Q(a)。 (2) 在源域中推广P和Q的关系为一般关系，即对于所有变量x来说，存在P(x)→Q(x)。 (3) 从源域和目标域映射关系，得到目标域的新性质，即对于目标域的所有变量x来说，存在P(x)→Q(x)。 (4) 利用假言推理：P(b)，P(x)→Q(x)┝ Q(b)，最后得出b具有性质Q。（符号┝表示类比推理） 类比学习实际上是演绎学习和归纳学习的组合。 ;7.5.2