机器学习-Knn与贝叶斯学习部分2017.ppt

2003.12.18 机器学习-贝叶斯学习 作者：Mitchell 译者：曾华军等 讲者：陶晓鹏 机器学习 For 2017研究生 主讲 李鹤喜 机器学习概述——简介 机器学习概述——机器学习应用 Autonomous Drive Autonomous Drive Autonomous Drive Autonomous Drive Voice Recognition Voice Recognition Voice Recognition Voice Recognition Machine Vision Machine Vision Machine Vision Machine Vision Face Recognition Face Recognition Face Recognition Facial Expression Recognition Facial Expression Recognition Facial Expression Recognition Facial Expression Recognition Facial Expression Recognition Data Mining Data Mining Data Mining Data Mining Data Mining 人工智能与机器学习的关系 “人工智能的根本在于智能，如何为机器赋予智能。而机器学习则是部署支持人工智能的计算方法。我的想法是：人工智能是科学，机器学习则是让机器变得更加智能的算法”。 Nidhi Chappel—Intel的机器学习主管。 机器学习概述——机器学习的定义 机器学习概述——机器学习的发展历史 机器学习概述——机器学习的发展历史 机器学习概述——机器学习的发展历史 机器学习概述——机器学习的发展历史 机器学习概述——机器学习的发展历史 机器学习概述——机器学习的发展历史 机器学习概述——机器学习的发展历史 机器学习概述——机器学习的发展历史 一、机器学习概述——机器学习的发展历史 一、机器学习概述——机器学习的发展历史 大数据时代为什么更需要机器学习？ 机器学习是人工智能的核心研究分支，旨在探究机器的拟人学习机制和方法，其成果已经广泛应用于自然语言理解、计算机视觉、图像处理、语音识别、信息检索、智能机器人等多个领域。近年来随着数据收集手段和能力的提升，可获取的数据量急剧增加，人们更迫切地从巨量数据中发现隐藏的、有效的、可理解的知识。这已经带来了一场大数据的变革，而这场革命的核心技术就是高性能的大规模数据处理能力。而机器学习正是大数据分析的主要工具。 机器学习处理大数据的有效性 1、机器学习是拟人学习，处理大数据的智能 化程度高； 2、机器学习对大数据的处理是自动进行的， 自动化程度高，对海量数据优势突出； 3、机器学习具有自动记忆和自我知识提升 能力，所以通过知识、经验的积累，可以 产生质的飞跃； 4、机器学习可以发现规律、可以自己创建修缮 模型，自适应能力强。 一、机器学习概述——三个密切相关的概念 一、机器学习概述——三个密切相关的概念 一、机器学习概述——三个密切相关的概念 一、机器学习概述——三个密切相关的概念 一、机器学习概述——机器学习分类 一、机器学习概述——机器学习的基本架构 一、机器学习概述——机器学习的典型算法 二 、k-NN最近邻分类算法 1 、K-NN算法的相似度量 K-NN算法需要计算样本之间的度量函数，最常见的有欧氏距离、 Minkowski距离、马氏距离、manhattan距离等。 1 、K-NN算法的相似度量 1 、K-NN算法的相似度量 2 、K-NN算法的实例 2 、K-NN算法的实例 2 、K-NN算法的实例 2 、K-NN算法的实例 2 、K-NN算法的步骤 贝叶斯学习的特点： 贝叶斯推理提供了一种概率手段，基于如下的假定：待考察的量遵循某概率分布，且可根据这些概率及已观察到的数据进行推理，以作出最优的决策。 贝叶斯推理为衡量多个假设的置信度提供了定量的方法。 贝叶斯推理为直接操作概率的学习算法提供了基础，也为其他算法的分析提供了理论框架。 3.2 一些与贝叶斯学习有关的预备知识 1、随机变量 2、频率和概率 3、联合概率和条件概率 4、概率密度函数 假设在某地区切片细胞中正常（c1）和异常（c2）两类的先验概率分别为p(c1)=0.9, p(c2)=0.1。现有一待识别细胞呈现出状态 x(测量值），由其类条件概率密度分布曲线查的p(x|c1)=0.2, p(x|c2)=0.4,试对细胞x进行分类。 利用贝