人工智能与应用.pptVIP

机器学习—机器学习的基本系统结构*环境可以是系统的工作对象，也可以包括工作对象和外界条件对环境提供给系统的信息评价包含以下两个方面信息水平：信息的一般性程度，即适用范围的广泛性信息的质量：信息的正确性、是否是适当的选择和合理的组织环境中信息的水平和质量是影响学习系统设计的第一个因素，而影响学习系统效率的另一个重要因素是知识库的形式和内容知识库：机器学习—机器学习的基本系统结构*知识库的形式即知识表示的形式是否适宜非常重要知识库的内容是指知识库在初始阶段要有相当的初始知识，并且在学习过程中不断修正和增加新的知识。知识库内的知识大多是以概念的形式存储的机器学习—机器学习的基本系统结构*知识库的形式常用的知识表示方法有：特征向量、谓词演算、产生式规则、过程、LISP函数、数字多项式、语义网络和框架选择知识表示方法要考虑可表达性：表达方式要能描述缺乏内在结构的事物推理难度：表示的不同，推理当然有的容易，有的难可修改性：知识是否可修改。不能修改的知识不能更新可扩充性：系统学习通过增加词典条目和表示结构来扩大表示能力，使得系统能够学习并表示更复杂的知识学习环节机器学习—机器学习的基本系统结构*是核心模块，是和外部交互的接口学习环节从执行环节得到执行结果的反馈信号，进行学习修正，进一步改善执行环节的行为学习部分对环境提供的信息整理、分析、归纳或类比，生成新的知识元或利用这些信息修改知识库，以增进系统执行部分完成任务的效能执行环节的复杂性、反馈和透明度都对学习环节有影响。复杂的任务需要更多的知识执行环节机器学习—机器学习的基本系统结构*根据知识库执行一系列任务，同时把执行结果或执行过程中获得的信息反馈给学习部分，完成对新知识库的评价，指导进一步的工作任务的复杂性由执行任务所需的是单个概念还是多个概念，执行任务采用的方式是单步还是多步来决定第六章机器学习*概述01机器学习的基本系统结构02神经网络学习03第六章机器学习*机器学习的基本系统结构贰概述壹神经网络学习叁机器学习—神经网络学习*线性阈值单元感知器及其学习算法BP算法前馈型人工神经元网络神经网络基础发展史生物神经元基本模型神经网络基本模型神经网络特性神经网络基础*发展史1890年，美国生物学家W.James出版了《Physiology》（生理学）一书。首次阐明了有关人脑结构及其功能，以及相关学习、联想、记忆的基本规律1943年McCulloch（心理学家）和Pitts（数理逻辑学家）发表文章，提出M-P模型描述了一个简单的人工神经元模型的活动是服从二值（兴奋和抑制）变化的总结了神经元的基本生理特性，提出了神经元的数学描述和网络的结构方法神经网络基础－发展史*第一次把神经网络研究从纯理论的探讨推向工程实现。掀起了神经网络研究高潮通过在IBM704计算机上的模拟，证明了该模型有能力通过调整权的学习达到正确分类的结果1957年FrankRosenblatt定义了一个神经网络结构，称为感知器(Perceptron)01指出感知器仅能解决一阶谓词逻辑，只能做线性划分对于非线性或其他分类会遇到很大困难。一个简单的XOR问题的例子就证明了这一点神经网络研究一度达到低潮1969M.Minsky和S.Papert发表了《Perceptrons》的论著：02神经网络基础－发展史*使神经网络研究一度达到低潮原因还有，计算机不够发达、VLSI还没出现、而人工智能和专家系统正处于发展高潮七十年代,据说全球只有几十个人在研究，但还是成功的。如：日本Fukusima的Neocognitron（新认知机）芬兰Kohonen的自组织神经网络SOM(Self-Organizingfeaturemap)StephenCrossberg的共振自适应理论ART网络等(AdaptiveResonanceTheory)神经网络基础－发展史*1982年JohnJ.Hopfield（物理学家）提出了全联接网络——全新的具有完整理论基础的神经网络模型。３年后ATT等做出了半导体芯片。——神经网络复兴时期开始011986年美国的一个并行计算研究小组提出了前向反馈神经网络的BackPropagation（BP）学习算法。成为当今应用最广泛的方法之一。该方法克服了感知器非线性不可分类问题，给神经网络研究带来了新的希望02神经网络基础－发展史*运用BP学习算法进行学习的神经网络模型与“多层感知器”模型在原理上是完全相同的感知器也同样具有与多层前馈网络相同的分类能力，只是由于当时没有理论支撑的设