“机器学习基石”笔记.pdfVIP

先简单介绍下这门课程，这门课是在著名的 MOOC（Massive Online OpenCourse 大型在线公开课） Coursera 上的一门关于机器学习领域的课程，由国立台湾大 学的年轻老师林轩田讲授。这门叫做机器学习基石的课程，共 8 周的课程为整 个机器学习课程的上半部分， 更偏重于理论和思想而非算法， 主要分为四大部分 来讲授。 When can Machine Learn ？在何时可以使用机器学习？ Why can Machine Learn ？ 为什么机器可以学习？ How can Machine Learn ？机器可以怎样学习？ How can Machine Learn Better ？怎样能使机器学习更好？ 每一大块又分为几周来讲授， 每周的课时分为两个大课， 每个大课一般又分为四 个小块来教学，一个小块一般在十分钟到二十分钟之间。 以 VC bound （VC 限制）作为总线将整个基础课程贯通讲解了包括 PLA （Perceptron learning algorithm 感知器）、 pocket 、二元分类、线性回归 （linear regression ）、logistic 回归（ logistic regression ）等等。 以下不用大课小课来叙述了， 写起来感觉怪怪的， 就用章节来分别代表大课时和 小课时。 一、 The learning problem 机器学习问题。 1. Course Introduction 课程简介。 第一小节的内容就是课程简介，如上已进行了详细的介绍，这里就不多赘述。 1.2 What is Machine Learning 什么是机器学习？ 在搞清这个问题之前，先要搞清什么是学习。 学习可以是人或者动物通过观察思考获得一定的技巧过程。 而机器学习与之类似，是计算机通过数据和计算获得一定技巧的过程。 注意这一对比，学习是通过观察而机器学习是通过数据 （是计算机的一种观察）。 对比图如图 1-1 。（本笔记的图和公式如不加说明皆是出自林老师的课件，下文 不会对此在做说明） 图 1-1 学习与机器学习对比图 a ）学习 b ）机器学习 那么紧接着就是要解决上述中出现的一个新的名词 技巧 （skill ）。 什么是技巧呢？技巧是一些能力表现的更加出色。 机器学习中的技巧如预测（ prediction ）、识别（ recognition ）。 来一个例子： 从股票的数据中获得收益增多的这种技巧， 这就是一种机器学习的 例子。 那既然人也可以通过观察获得一个技巧，为什么还需要机器学习呢？ 这就是为什么需要机器学习，简单来说，就是两大原因： 一些数据或者信息，人来无法获取，可能是一些人无法识别的事物， 或是数据信息量特别大； 另一个原因是人的处理满足不了需求， 比如：定义很多很多的规则满 足物体识别或者其他需求；在短时间内通过大量信息做出判断等等。 上面说的是为什么使用机器学习， 那么什么情况下使用机器学习呢？是不是所有 的情况都使用机器学习呢？ 这里给出了三个 ML （机器学习的英文缩写）的关键要素： 1、存在一个模式或者说表现可以让我们对它进行改进提高； 2、规则并不容易那么定义； 3、需要有数据。 1.3 Applications of Machine Learning 机器学习的应用。 这一小节主要介绍的就是机器学习能用在哪些方面。 个人感觉不是理论介绍的重 点 （不是说应用不重要，刚好相反，其实个人认为机器学习甚至整个计算机学 科 最重要的还是应用） ，就简述下机器学习可以应用在在衣食住行育乐，