人工智能(五)机器学习PPT.pptVIP

* 人工智能Artificial Intelligence 北京信息科技大学计算机学院 李宝安 * 机器学习----Machine learning 人工智能的一个重要分支 对人类“学习”智能的模拟过程 为AI知识获取的一种重要技术 成为AI专家系统和其他智能系统的重要“智能接口”，可有效地提升系统的性能，改进与完善系统的功能。增加系统的可用性。 * 机器学习的发展历程 通用学习系统研究 50年代中期，当时的人工智能的研究着重于符号表示和启发式方法的研究，而机器学习却致力于构造一个没有或者只有很少初始知识的通用系统，这种系统所应用的主要技术有神经元模型，决策论和控制论。 神经元的研究在当时没能取得实质性进展，作为对照，一种最简单，最原始的学习方法—机械学习，又成为死记式学习，却取得了显著的成功。该方法通过记忆和评价外部环境提供的信息来达到学习的目的。采用该方法的代表性成果是A. L. Samuel于50年代末设计的跳棋程序，随着使用次数的增加，该程序会积累性记忆有价值的信息，很快达到大师级水平。正是机械学习的成功激励了研究者们继续进行机器学习的探索性研究。 基于符号表示的概念学习系统研究 基于知识的各种学习系统研究 联结学习和符号学习的深入研究 * 基于符号表示的概念学习系统研究 如果说第一时期的研究是用数值和统计方法的话，这一时期的研究则综合了逻辑和图结构的表示。研究的目标是表示高级知识的符号描述及获取概念的结构假设。这时期的工作主要有概念获取和各种模式识别系统的应用。其中，最有影响的开发工作当属Winston的基于示例归纳的结构化概念学习系统。受其影响，人们研究了从例子中学习结构化概念的各种不同方法。也有部分研究者构造了面向任务的专用系统，这些系统旨在获取特定问题求解任务中的上下文知识，代表性工作由HuntC.I.Hovland的CLS及B.G.Buchanan等得META-DENDRAL，后者可以自动生成规则来解释DENDRAL系统中所用的质普数据。这个实际机器学习的研究者已意识到应用知识来指导学习的重要性，并且开始将领域知识编入学习系统。 * 基于知识的各种学习系统研究 这一时期，人们不再局限于构造概念学习系统和获取上下文知识，同时也结合了问题求解中的学习，概念聚类，类比推理及机器发现的工作。一些成熟的方法开始用于辅助构造专家系统，并不断的开发新的学习方法，使机器学习达到一个新的时期。这时期的工作特点有： 基于知识的方法：着重强调应用面向任务的知识和指导学习过程的约束。从早先的无知识学习系统的失败中吸取的教训就是：为获取新的知识，系统必须事先具备大量的初始知识。 开发各种各样的学习方法，除了早先从例子中学习外，各种有关的学习策略相继出现，如示教学习，观察学习和发现学习。同时也出现了如类比学习和基于解释的学习等方法。 结合生成的选择学习任务的能力：应用启发式知识与学习任务的生成和选择，包括提出收集数据的方式，选择要获取的概念与控制系统的注意力等 * 机器学习的简单模型 环境 知识库 学习环节 执行环节 环境向系统的学习环节提供某些信息，学习环节利用这些信息修改知识库， 以增进系统执行部分的效能；执行环节根据知识库完成任务，同时把获得的信息 反馈给学习环节。在具体的应用中，环境、知识库和执行部件决定了具体的工作 内容，学习环节所需解决的问题完全由其余3个部分确定。 环境和知识库是以某种知识表示形式表达的信息描述体，分别代表外界信息 的来源和系统拥有的知识（包括学习的结果）。学习环节和执行环节代表两个过程。 * 机器学习的类别 机械学习或通过死记学习（Rote Learning) 从特殊?特殊的学习过程。 通过指点或教授学习（Learning by being told) 从一般?特殊的学习过程。 通过例子学习（Learning from Examples)或概念学习（Concept Learning) 从特殊?一般的学习过程。 通过类比学习（Learning by Analogy) 从特殊事例概括出类比关系和转换规则的学习过程。 * 机械学习或通过死记学习（Rote Learning)-------基于存储和检索的方法 (X1...Xn) ? (Y1…Yp) [(X1...Xn), (Y1…Yp)] f 存储 执行函数 输入模式 计算结果输出值 数据对 机械学习简单模型 * 机械学习应用实例 西文排版系统中的“Hyphen”问题 文本排布子系统，如单词revolution?re-volu-tion,对西文单词