半监督学习（最新文档）.pdf

半监督学习

Semi-SupervisedLearning

大数据研究院

苗颖张润羲

半监督学习的概念

PART01

半监督学习的算法

目录PART02

CONTENTS半监督学习的模型

PART03

半监督学习Python案例

PART04

半监督学习的概念

PART01

半监督学习

监督学习：

是指从标注数据中学习预测模型的机器

学习问题。标注数据表示输入输出的对

应关系，预测模型对给定的输入产生相

应的输出。监督学习的本质是学习输入

到输出的映射的统计规律。

无监督学习：

是指从无标注数据中学习预测模型的机

器学习问题。无标注数据是自然得到的

数据，预测模型表示数据的类别、转换

或概率。无监督学习的本质是学习数据

中的统计规律或潜在结构。

半监督学习

半监督学习（Semi-SupervisedLearning，SSL）：

是指利用标注数据和未标注数据学习预测模型的机器学习问题。通常有少量标

注数据、大量未标注数据，因为标注数据的构建往往需要人工，成本较高，未

标注数据的收集不需太多成本。半监督学习旨在利用未标注数据中的信息，辅

助标注数据，进行监督学习，以较低的成本达到较好的学习效果。半监督学习

属于弱监督学习中的一个分支领域，是一种典型的弱监督学习方法。

弱监督学习（weaklysupervisedlearning）：

弱监督学习是相对于监督学习而言的。同监督学习不同，弱监督学习中的数据

标签允许是不完全的，即训练集中只有一部分数据是有标签的，其余甚至绝大

部分数据是没有标签的；或者说数据的监督学习是间接的，也就是机器学习的

信号并不是直接指定给模型，而是通过一些引导信息间接传递给机器学习模型。

总之，弱监督学习涵盖的范围很广泛，可以说只要标注信息是不完全、不确切

或者不精确的标记学习都可以看作是弱监督学习。

半监督学习

弱监督通常分为三种类型：不完全监督、不确切监督、不准确监督。

Ø不完全监督（incompletesupervision）：指的是训练数据只有部分是带有

标签的，同时大量数据是没有被标注过的。这种情况发生在各类任务中。例如，

在图像分类任务中，真实标签由人类标注者给出的。从互联网上获取巨量图片

很容易，然而考虑到标记的人工成本，只有一个小子集的图像能够被标注。

在诸多针对不完全监督环境开发的机器学习范式中，主动学习、半监督学习、

迁移学习是三种最流行的学习范式。

Ø不确切监督（inexactsupervision）：即训练样本只有粗粒度的标签。例如，

针对一幅图片，只拥有对整张图片的类别标注，而对于图片中的各个实体则没

有标注的监督信息。

Ø不准确的监督（inaccuratesupervision）：即给定的标签并不总是真值。

出现这种情况的原因有很多，例如：标注人员自身水平有限、标注过程粗心、

标注难度较大。在标签有噪声的条件下进行学习就是一个典型的不准确学习的

情况。

半监督学习

不完全监督：训练数据集={(),⋯,(,),,⋯,}

111

Ø主动学习（activelearning）：它假设未标注数据的真值标签可以向人工

专家查询，让专家