2019年人工智能与应用.pptVIP

31 机器学习 — 机器学习的基本系统结构 ? 学习环节 ? 是核心模块，是和外部交互的接口 ? 学习部分对环境提供的信息整理、分析、归纳或 类比，生成新的知识元或利用这些信息修改知识 库，以增进系统执行部分完成任务的效能 ? 学习环节从执行环节得到执行结果的反馈信号， 进行学习修正，进一步改善执行环节的行为 ? 执行环节的复杂性、反馈和透明度都对学习环节 有影响。复杂的任务需要更多的知识 32 机器学习 — 机器学习的基本系统结构 ? 执行环节 ? 根据知识库 执行 一系列任务，同时把执行结果或执 行过程中获得的信息 反馈 给学习部分，完成对新知 识库的评价，指导进一步的工作 ? 任务的复杂性由执行任务所需的是单个概念还是多 个概念，执行任务采用的方式是单步还是多步来决 定 33 第六章 机器学习 ? 概述 ? 机器学习的基本系统结构 ? 神经网络学习 34 第六章 机器学习 ? 概述 ? 机器学习的基本系统结构 ? 神经网络学习 35 机器学习 — 神经网络学习 ? 神经网络基础 ? 发展史 ? 生物神经元基本模型 ? 神经网络基本模型 ? 神经网络特性 ? 前馈型人工神经元网络 ? 线性阈值单元 ? 感知器及其学习算法 ? BP 算法 36 神经网络基础 ? 发展史 ? 1890 年，美国生物学家 W.James 出版了 《 Physiology 》（生理学）一书。首次阐明了有 关人脑结构及其功能，以及相关学习、联想、 记忆的基本规律 ? 1943 年 McCulloch （心理学家）和 Pitts （数理逻 辑学家）发表文章，提出 M-P 模型 ? 描述了一个简单的人工神经元模型的活动是服从二值 （兴奋和抑制）变化的 ? 总结了神经元的基本生理特性，提出了神经元的数学 描述和网络的结构方法 37 神经网络基础 － 发展史 ? 1957 年 Frank Rosenblatt 定义了一个神经网络结构， 称为 感知器 (Perceptron) ? 第一次把神经网络研究从纯理论的探讨推向工程实现。掀 起了神经网络研究高潮 ? 通过在 IBM704 计算机上的模拟，证明了该模型有能力通 过调整权的学习达到正确分类的结果 ? 1969M.Minsky 和 S. Papert 发表了 《 Perceptrons 》 的 论著： ? 指出感知器仅能解决一阶谓词逻辑，只能做线性划分 ? 对于非线性或其他分类会遇到很大困难。一个简单的 XOR 问题的例子就证明了这一点 ? 神经网络研究一度达到低潮 38 神经网络基础 － 发展史 ? 使神经网络研究一度达到低潮原因还有，计算机不 够发达、 VLSI 还没出现、而人工智能和专家系统正 处于发展高潮 ? 七十年代 , 据说全球只有几十个人在研究，但还是成 功的。如： ? 日本 Fukusima 的 Neocognitron （新认知机） ? 芬兰 Kohonen 的自组织神经网络 SOM ( Self-Organizing feature map) ? Stephen Crossberg 的共振自适应理论 ART 网络等 ( Adaptive Resonance Theory ) 39 神经网络基础 － 发展史 ? 1982 年 John J. Hopfield （物理学家）提出了全联 接网络 —— 全新的具有完整理论基础的神经网 络模型。３年后 ATT 等做出了半导体芯片 。 — — 神经网络复兴时期开始 ? 1986 年美国的一个并行计算研究小组提出了前 向反馈神经网络的 Back Propagation （ BP ）学习 算法 。成为当今应用最广泛的方法之一。该方 法克服了感知器非线性不可分类问题，给神经 网络研究带来了新的希望 40 神经网络基础 － 发展史 ? 运用 BP 学习算法进行学习的神经网络模 型与“多层感知器”模型在原理上是完 全相同的 ? 感知器也同样具有与多层前馈网络相同 的分类能力，只是由于当时没有理论支 撑的设计算法，也就是学习算法，因而 失去了实际应用的意义 41 神经网络基础 － 发展史 ? 1987 年在美国召开了 第一届世界神经网络 大会 ， 1000 人参加 ? IJCNN 等大会 ? Neural Computing, IEEE Neural Network 等 期刊 42 神经网络基础 — 符号主义与连接主义 ? 共同之处