自动化人工智能--机器学习.pptVIP

第七章 机器学习 7.1 机器学习的定义、研究意义与发展历史 7.2 机器学习的主要策略与基本结构 7.3 –7.7 几种常用的学习方法 7.8 知识发现 7.9 小结 7.1 机器学习的定义和发展历史 7.1.1 机器学习的定义 机器学习的定义 顾名思义,机器学习是研究如何使用机器来模拟人类学习活动的一门学科。稍为严格的提法是：机器学习是一门研究机器获取新知识和新技 能,并识别现有知识的学问。 * 7.1.2 机器学习的发展史 机器学习的发展分为4个时期 第一阶段是在50年代中叶到60年代中叶，属于热烈时期。 第二阶段在60年代中叶至70年代中叶，被称为机器学习的冷静时期。 第三阶段从70年代中叶至80年代中叶，称为复兴时期。 机器学习的最新阶段始于1986年 。 * 7.1 机器学习的定义和发展历史 机器学习进入新阶段的表现 机器学习已成为新的边缘学科并在高校形成课程。 综合各种学习方法 机器学习与人工智能问题的统一性观点正在形成。 各种学习方法的应用范围不断扩大。 数据挖掘和知识发现的研究已形成热潮 。 与机器学习有关的学术活动空前活跃 。 * 7.1 机器学习的定义和发展历史 7. 2 机器学习的主要策略和基本结构 7.2.1 机器学习的主要策略 按照学习中使用推理的多少，机器学习所采用的策略大体上可分为4种———机械学习、传授学习、类比学习和示例学习。 机械学习（死记硬背） 传授学习（灌输；推理、翻译、转化） 类比学习（模仿；寻找相似的案例） 示例学习（举一反三,归纳，抽象） * 7.2.2 机器学习系统的基本结构 1.学习系统的基本结构 * 环 境 学 习 知识库 执 行 图6.1 学习系统的基本结构 7.2 机器学习的主要策略和基本结构 2.影响学习系统设计的要素 影响学习系统设计的最重要因素是环境向系统提供的信息，或者更具体地说是信息的质量。 知识库是影响学习系统设计的第二个因素。知识的表示有特征向量、一阶逻辑语句、产生式规则、语义网络和框架等多种形式。 选择知识表达方式的四原则： 表达能力 推理能力 修改能力 扩展能力 * 7.2 机器学习的主要策略和基本结构 7.3 机械学习 1.机械学习模式 机械学习是最简单的学习方法。机械学习就是记忆，即把新的知识存储起来，供需要时检索调用，而不需要计算和推理。它是一种最基本的学习过程。 特点：忽略推理、计算过程，提高效率 * 7.3 机械学习 * 存储 计算 推导 归纳 算法与理论 机械记忆 搜索规则 图7.2 数据化简级别图 Lenat，Hayes-Roth，和Klahr等人于1979年关于机械学习提出一种有趣的观点，见图7.2。 7.3 机械学习 2.机械学习的主要问题 存储组织信息：要采用适当的存储方式，使检索速度尽可能地快。 提高检索效率：索引、排序、杂凑 环境的稳定性与存储信息的适用性问题：机械学习系统必须保证所保存的信息适应于外界环境变化的需要。 知识过时，设置有效期 存储与计算之间的权衡：对于机械学习来说很重要的一点是它不能降低系统的效率。 重新计算比检索更省有效率时，失去意义； 方法：设置存储量阀值；选择忘却 * 7.3 机械学习 7.4 归纳学习 归纳学习（induction learning）是应用归纳推理进行学习的一种方法。根据归纳学习有无教师指导，可把它分为示例学习和观察与发现学习。（从个别到一般） 7.4.1 归纳学习的模式和规则 归纳学习的模式 其一般模式如下： 给定：观察陈述（事实）F，假定的初始断言（可能为空），背景知识（领域知识，约束，假设，优先准则） 求：归纳断言（假设）H * 假设H永真蕴涵事实F，说明F是H的逻辑推理，则有：H | F 或 F | H ； 选择型概括，构造性概括： 选择性概括规则： 取消部分条件 放松条件 沿概念树上溯 形成闭合区域 将常量转化成变量 * 解释过程 实例空间 规则空间 规划过程 7.4.2 归纳学习方法 1. 示例学习（learning from examples） 动物识别 中医诊断 2. 观察发现学习（learning from observation and discovery） 观察学习：事例聚类，形成概念描述； 机器发现：发现规律，产生定理或规则； * 7.5 类比学习 7.5.1 类比推理和类比学习方式 类比学习（l