第二周和第三周：机器学习基础.pdf

《DeepLearning》

——机器学习基础

Johnson

导师：

机器学习基础

MachineLearningBasics

1.机器学习算法7.监督学习算法

2.容量、过拟合和欠拟合8.无监督学习算法

3.超参数和验证集9.随机梯度下降

4.估计、偏差和方差10.构建机器学习算法

5.最大似然估计11.深度学习的挑战

6.贝叶斯统计

1.机器学习算法

LearningAlgorithmsML

1.学习算法

LearningAlgorithms

•什么是学习

Mitchell(1997)提供了一个简洁的定义:“对于某类任务T和性能度量P,一个计算机程序被认

为可以从经验E中学习是指,通过经验E改进后,它在任务T上由性能度量P衡量的性能有所提

升。”

T:人脸分类，数值逼近

P:识别准确率，逼近的精度

E:已有的经验，例如已经有10000张图片，每张图片对应的人

又或者(x1,x2,….x10)对应一个y,如多元线性回归

•什么是机器学习算法

机器学习算法是一种能够从数据中学习的算法

1.1任务T

TheTask,T

机器学习的任务是什么？

通常机器学习任务定义为机器学习系统应该如何处理样本(example)

即对样本进行一个复杂的非线性变换从而能得到正确的结果

样本是什么？

样本是指我们从某些希望机器学习系统处理的对象或事件中收集到的已经量化的特征(feature)的集合

我们通常会将样本表示成一个向量，其中向量的每一个元素是一个特征。

例如，一张图片的特征就是指这张图片的像素值。

又或者：x1x2yx1x2x3………x100y

1.20.90.722261311280(张三)

3.11.22.123432342551(李四)

2.42.13.411523211652(王五)

….….

1.1任务T

TheTask,T

常见的任务类型有哪些？

•分类、输入缺失分类：

•回归：

•转录：OCR(光学字符识别),ASR(语音识别)

•机器翻译：seq2seq

•结构化输出：输出值之间内部紧密相关，如语法树

•异常检测：筛选不正常或非典型的个体

•合成与采用：VAE,GAN

•缺失值填充：

•去噪：

•密度估计

11111

22222

……