人工智能通识教程 第2版 课件 第5、6章 机器学习、 深度学习.pptx

;;;;机器学习是使计算机具有智能的根本途径，它涉及到概率论、统计学、逼近论、凸分析、算法复杂度理论等多学科知识，专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。

机器学习的历史可以追溯到17世纪，贝叶斯、拉普拉斯关于最小二乘法的推导和马尔可夫链构成了机器学习广泛使用的工具和基础。从1950年图灵提议建立一个学习机器，到2000年初深度学习的实际应用及进展，机器学习有了很大的进展。;PART01;如今，一些手机提供了智能语音助手，一些电子邮箱使用了垃圾邮件过滤器（软件），等等。如果你使用过类似这样的服务，那么，事实上你已经在利用机器学习了！作为人工智能的一个分支，机器学习所涉及的应用范围包括语言处理、图像识别和智能规划等。;机器学习最早的发展可以追溯到英国数学家贝叶斯（1702年~1761年）在1763年发表的贝叶斯定理，这是关于随机事件A和B的条件概率（或边缘概率）的一则数学定理，是机器学习的基本思想。其中，P(A|B)是指在B发生的情况下A发生的可能性，即根据以前的信息寻找最可能发生的事件。;从20世纪50年代研究机器学习以来，不同时期的研究途径和目标并不相同，大体上可以划分为四个阶段。

第一阶段是20世纪50年代中叶到60年代中叶，属于热烈时期。主要研究“有无知识的学习”，关注系统的执行能力。这个时期，通过对机器的环境及其相应性能参数的改变来检测系统所反馈的数据，系统受到程序的影响而改变自身的组织，最后会选择一个最优的环境生存。这个时期最具代表性的研究是塞缪特的下棋程序。;第二阶段从20世纪60年代中叶到70年代中叶，被称为机器学习的冷静时期。主要研究将各领域的知识植入到系统里，通过机器模拟人类学习的过程，同时采用图结构及逻辑结构方面的知识进行系统描述。在这一研究阶段，主要是用各种符号来表示机器语言，研究人员在进行实验时意识到学习是一个长期的过程，从这种系统环境中无法学到更加深入的知识。因此，研究人员将各专家的知识加入到系统里。经过实践，证明这种方法取得了一定的成效。这一阶段具有代表性的工作有海耶斯-罗斯等的对结构学习系统方法。;第三阶段从20世纪70年代中叶到80年代中叶，称为复兴时期。在此期间，人们从学习单个概念扩展到学习多个概念，探索不同的学习策略和方法，开始把学习系统与各种应用结合起来，并取得很大的成功。同时，专家系统在知识获取方面的需求也极大地刺激了机器学习的研究和发展。在出现第一个专家学习系统之后，示例归纳学习系统成为研究的主流，自动知识获取成为机器学习应用的研究目标。;1980年，在美国的卡内基·梅隆大学（CMU）召开了第一届机器学习国际研讨会，标志着机器学习研究已在全世界兴起。此后，机器学习开始得到大量的应用。1984年，西蒙等20多位人工智能专家共同撰文编写的机器学习文集第二卷出版，国际性杂志《机器学习》创刊，更加显示出机器学习突飞猛进的发展趋势。这一阶段代表性的工作有莫斯托的指导式学习、莱纳特的数学概念发现程序、兰利的BACON程序及其改进程序。;第四阶段起步于20世纪80年代中叶，机器学习的这个新阶段具有如下特点：

（1）机器学习成为新的边缘学科，它综合应用了心理学、生物学、神经生理学、数学、自动化和计算机科学等形成了机器学习理论基础。

（2）融合各种学习方法，且形式多样的集成学习系统研究正在兴起（图5-3）。特别是连接符号的学习耦合可以更好地解决连续性信号处理中知识与技能的获取与求精问题而受到重视。;

图5-3机器学习融合了各种学习方法;（3）机器学习与人工智能各种基础问题的统一性观点正在形成。例如学习与问题求解结合进行、知识表达便于学习的观点产生了通用智能系统的组块学习。类比学习与问题求解结合的基于案例方法已成为经验学习的重要方向。

（4）各种学习方法应用范围不断扩大。归纳学习知识获取工具在诊断专家系统中广泛使用，连接学习在声图文识别中占优势，分析学习用于设计型专家系统，遗传算法与强化学习在工程控制中有较好应用，与符号系统耦合的深度学习在智能管理与智能机器人运动规划中发挥作用。;（5）与机器学习有关的学术活动空前活跃。国际上除每年举行的机器学习研讨会外，还有计算机学习理论会议以及遗传算法会议。;机器学习在1997年达到巅峰，当时，IBM深蓝计算机在一场国际象棋比赛中击败了世界冠军加里·卡斯帕罗夫。之后，谷歌开发专注于围棋游戏的AlphaGo（阿尔法狗），尽管围棋被认为过于复杂，2016年AlphaGo终于获得胜利，在一场五局比赛中击败世界冠军李世石。

图5-4AlphaGo在围棋赛中击败李世石;学习是人类具有的一种重要的智能行为，而机器学习是一门多学科交叉专业，涵盖概率论知识，统计学知识，近似理论知识和复杂算法