AI第7章-机器学习讲义.pptVIP

Artificial Intelligence (AI)人工智能 内容提要 从人工智能的发展过程看，机器学习是继专家系统之 后，人工智能应用的又一重要领域，也是人工智能和神经 计算的核心研究课题之一。 现有的计算机系统和人工智能系统，大多数没有什么 学习能力，至多也只有非常有限的学习能力，因而无法满 足科技和生产提出的新要求。 什么是学习？ 学习的心理学解释：指（人或动物）依靠经验的获得，使行为持 久变化的过程。 Simon认为：若一个系统能够通过执行某种过程，而改进它的性能, 这就是学习。 Minsky认为：学习是在人们头脑中（心理内部）进行有用的变化。 Mitchell在《机器学习》一书中对学习的定义是：对于某类任务T 和性能度P，如果一个计算机程序在T上以P衡量的性能随着经验E而自 我完善，则称这个计算机程序从经验E中学习。 ◇ 学习与经验有关； ◇ 学习可以改善系统性能； ◇ 学习是一个有反馈的信息处理与控制过程。 由于经验是在系统与环境的交互过程中产生的，经验中应该 包含系统输入、响应和效果等信息。 因此，经验的积累、性能的完善，正是通过重复这一过程而 实现的。 7.1 机器学习的定义和发展历史 7.1.1 机器学习的定义 顾名思义,机器学习是研究如何使用机器，来模拟人类 学习活动的一门学科。 稍为严格的提法：机器学习是一门研究机器获取新知 识和新技能，并识别现有知识的学问。 综上所述，机器学习的基本定义： 机器学习是研究机器模拟人类的学习活动、获取知识 和技能的理论和方法，以改善系统性能的学科。 7.1.2 机器学习的发展史 机器学习的发展分为4个时期： ◇ 50年代中叶至60年代中叶---热烈时期。 ◇ 60年代中叶至70年代中叶---冷静时期。 ◇ 70年代中叶至80年代中叶---复兴时期。 ◇ 1986年开始了新阶段。 ◇ 已成为新的边缘学科，并在高校形成专门课程。 ◇ 多种学习方法的综合。 ◇ 机器学习与人工智能问题的统一性观点已经形成。 ◇ 各种学习方法的应用范围不断扩大。 ◇ 数据挖掘和知识发现的研究已形成热潮。 ◇ 与机器学习有关的学术活动空前活跃。 根据有限样本集Q，推算这个世界W的模型，使得其对 这个世界为真。 ⑴、一致性假设 假设世界W与样本集Q具有某种相同性质，作为机器学习的条件。 ⑵、样本空间划分 将样本集放到一个n维空间，寻找一个决策面(等价关系)，使 得问题决定的不同对象被划分在不相交的区域。 ⑶、泛化能力 从有限样本集合中获得的规律，是否对学习集以外的数据仍 然有效，泛化能力决定模型对世界的有效性。 内容提要 7.2 机器学习的主要策略和基本结构 7.2.1 机器学习的主要策略 学习是一项复杂的智能活动，学习过程与推理过程紧 密相连。 根据学习中使用推理的多少，机器学习策略大体可分 为4种。 ⑴ 机械学习 记忆式（死记硬背）。即将新的知识存储起来，供需要时检索调用, 不需要计算和推理。 ⑵ 示教学习 灌输式。外界输入知识与内部知识的表达不完全一致，系统在接受 外部知识时需要推理、翻译和转化。 ⑶ 类比学习 模仿式。需要发现当前任务与已知知识的相似之处，通过类比给出 完成当前任务的方案。 ⑷ 示例学习 扩展式（举一反三）。从一组正例和反例中分析和总结出一般性的 规律，在新的任务中推广、验证、修改规律。 7.2.2 机器学习系统的基本结构 1、学习系统的基本结构 最重要的因素是环境向系统提供的信息，或者更具体地 说是信息的质量。 知识库是影响学习系统设计的第二个因素。 知识的表示有：特征向量、一阶逻辑语句、产生式规则、 语义网络和框架等多种形式。 选择知识表达方式的四原则：表达能力、推理能力、修 改能力、扩展能力。 内容提要 1、机械学习模式 机械学习是最简单的学习方法，就是记忆。即把新的知识存储起来, 供需要时检索调用，而无需计算和推理，是一种最基本的学习过程。 特点：忽略推理、计算过程，以提高效率。 存储组织信息：采用适当的存储方式，使检索速度尽可能地快。 提高检索效率：索引、排序、杂凑。 环境的稳定性与存储信息的适用性问题：必须保证所保存的信息要适应 于外界环境变化的需要。 知识过时：设置有效