现代机器学习 课件 第17章 迁移学习.pptx

第17章迁移学习;

17.1迁移学习概述;

图17.1展示了传统机器学习和迁移学习的学习过程之间的不同。传统的机器学习技术试图从头学习每个任务;而迁移学习在目标任务缺少高质量的训练数据时,试图将一些先前任务的知识迁移到目标任务。;;

17.1.2迁移学习的本质;

根据目前已有的迁移学习

方法,可大致将迁移学习划分如下:

1.根据源域和目标域分类

根据源域和目标域的不同情况,可将迁移学习分为三类,分别是归纳式迁移学习、直推式迁移学习和无监督迁移学习。;

1)归纳式迁移学习

当源域中有大量标签数据时,归纳式迁移学习与多任务学习类似。然而,归纳式迁移学习通过从源任务迁移知识来实现目标任务的高性能,而多任务学习试图同时学习目标任

务和源任务。当源域中没有可用的标签数据时,归纳式迁移学习相当于自学习。在自学习中,源域和目标域之间的标签空间可能不同,这意味着源域的辅助信息不能直接使用。因此,自学习类似于源域中没有可用的标签数据的归纳式迁移学习。;

2)直推式迁移学习

在直推式迁移学习中,源任务和目标任务相同,但源域和目标域是不同的。在这种情况下,目标域中没有可用的标签数据,而源域中有许多标签数据。此外,根据源域和目标域

之间的不同情况,直推式迁移学习可以进一步分为以下两种情况进行讨论:

①源域和目标