机器学习学术报告.pptx

机器学习方法与应用 xxx教授 南京邮电大学 机器学习-相关研究领域 机器学习 机器学习方法概述 几种机器学习应用 机器学习-缘起 机器学习一词是上世纪50年代由美国电脑游戏和人工智能先驱 —亚瑟. 萨缪尔在IBM工作时提出的。 亚瑟. 萨缪尔声名鹊起是因为他开发的国际象棋程序。他编写 程序让电脑自己和自己下了成千上万局国际象棋。通过观察下在什 么位置更可能获胜，下在什么位置更可能输掉，随着局数的增加， 下棋程序逐渐学习并最终超越了萨缪尔——这在当时是一个了不起 的结果。 此处有视频 1 机器学习-必要性 机器学习是从早期人工智能的研究中兴起的，在过去的15-20年间，它被认为是正在发展的计算机的新能力，事实上，有很多程序人工是无法直接编写出来的如： ·自动驾驶汽车 ·通过电脑阅读手写的字母或者数字 ·编写程序让直升机飞行或倒立飞行 然而通过让便编写一个学习型算法，让计算机自己学习，可以很好解决这些问题，如手写识别等。 机器学习-定义 “对于某类任务T和性能度量P，如果一个计算机程序在T上以P 衡量的性能随着经验E而自我完善，那么我们称这个计算机程序 在从经验E学习。” -《Machine Learning》 “许多领域都产生了大量的数据,统计学家的工作就是让所有这 些数据变得意义:提取重要的模式和趋势,理解“数据在说什么”。 我们称之为从数据中学习。” -《统计学习基础》 1 学习方式分类 ·有监督学习Supervised learning ·半监督学习Unsupervised learning ·无监督学习Semi-supervised learning ·强化学习Reinforcement learning  1 有监督学习 输入数据被称为“训练数据”，每组训练数据有一个明确的标识或结果。 在建立预测模型的时候，监督式学习建立一个学习过程，将预测结果与“训练数据”的实际结果进行比较，不断的调整预测模型，直到模型的预测结果达到一个预期的准确率。 监督式学习的常见应用场景如分类问题和回归问题。常见算法有逻辑回归（Logistic Regression）和反向传递神经网络（Back Propagation Neural Network）  1 无监督学习 无监督式学习的目的是去对原始资料进行分类，以便了解资料内部结构（概率密度等）。其在学习时并不知道其分类结果是否正确，亦即没有受到监督式增强(告诉它何种学习是正确的)。其特点是仅对此种网络提供输入范例，而它会自动从这些范例中找出其潜在类别规则。当学习完毕并经测试后，也可以将之应用到新的案例上。 典型的例子就是聚类。聚类的目的在于把相似的东西聚在一起，而我们并不关心这一类是什么。因此，一个聚类算法通常只需要知道如何计算相似度就可以开始工作了。  1 半监督学习 输入数据部分被标识，部分没有被标识，这种学习模型可以用来进行预测，但是模型首先需要学习数据的内在结构以便合理的组织数据来进行预测。 应用场景包括分类和回归，算法包括一些对常用监督式学习算法的延伸，这些算法首先试图对未标识数据进行建模，在此基础上再对标识的数据进行预测。如图论推理算法（Graph Inference）或者拉普拉斯支持向量机（Laplacian SVM.）  1 强化学习 输入数据作为对模型的反馈，不像监督模型那样，输入数据仅仅是作为一个检查模型对错的方式，在强化学习下，输入数据直接反馈到模型，模型必须对此立刻作出调整。 常见的应用场景包括动态系统以及机器人控制等。常见算法包括（Q learning）以及时间差学习（Temporal difference learning）  — — 学习型算法 机器学习可以让我们解决一些人为设计和使用确定性程序很 难解决的问题。从科学和哲学的角度来看，机器学习受到关注是 因为提高我们对机器学习的认识需要提高我们对智能背后原理- 学习算法的理解。 机器学习算法是一种能够从数据中学习的算法。然而，我们 所谓的学习是什么意思呢？一个简洁的定义是：“对于某类任务 T 和性能度量P，一个计算机程序被认为可以从经验E 中学习是 指，通过经验 E 改进后，它在任务 T 上由性能度量 P 衡量的性 能有所提升。 下面来分别介绍一下这些名词。  1 任务T 从“任务”的相对正式的定义上说，学习过程本身不能算是任务。学习是我们所谓的获取完成任务的能力。例如，我们的目标是使机器人能够行走，那么行走便是任务