迁移学习的分类方法JindongWang.docVIP

一 迁移学习简介 二 迁移学习的分类方法 三 代表性研究工作 四 问题与展望 五 迁移学习资源 一 迁移学习简介 ? 定义与概念 ? 迁移学习 vs 传统机器学习 ? 与其他概念的对比 迁移学习将会是引领下一次机器学习热潮的驱动力。 ——吴恩达 ,NIPS 2016 什么是迁移学习？ –心理学角度 ：人们利用之前的经验和知识进行推理和学习的能力。 –机器学习角度 ：一个系统将别的相关领域中的知识应用到本 应用中的学习模式。 [DARPA] –举例： C++ Java ；骑自行车 骑摩托车 –关键词：举一反三 迁移学习要解决的问题： –给定一个研究领域和任务，如何利用相似领域进行知识的迁移，从而达成目标？ ? 为什么要进行迁移学习？ –数据的标签很难获取 对已有知识的重用是必要的 –从头建立模型是复杂和耗时的 迁移学习 vs 传统机器学习 传统机器学习 迁移学习 数据分布 训练和测试数据同分布 训练和测试数据不需要同分布 数据标签 足够的数据标注 不需要足够的数据标注 建模 每个任务分别建模 可以重用之前的模型 传统机器学习 迁移学习 与其他概念的对比 –Life-long learning ( 终身学习 ) :连续不断地在一个域上学习 –Multi-task learning ( 多任务学习 )：两个任务同时完成 –Domain adaptation ( 域适配 )：迁移学习的子类 –Incremental learning ( 增量学习 )：一个域上的不断学习 –Self-taught learning ( 自我学习 )：从自身数据中学习 –Covariance shift ( 协方差漂移 )：迁移学习的子类 –?? 迁移学习与其他已有概念相比，着重强调学习任务之间的相关性，并利用这种相关性完成知识之间的迁移。 迁移学习常用概念 –Domain ( 域)：由数据特征和特征分布组成，是学习的主体 Source domain (源域 )：已有知识的域 Target domain ( 目标域 )：要进行学习的域 –Task ( 任务 )：由目标函数和学习结果组成，是学习的结果 迁移学习的形式化定义 –条件：给定一个源域 和源域上的学习任务 ，目标域和目标域上的学习任务 –目标：利用 –限制条件：  和 学习在目标域上的预测函数 或  。 应用领域 迁移学习 二 迁移学习的分类方法 ? 按迁移情境 ? 按特征空间 ? 按迁移方法 常用的迁移学习分类方法 –按迁移情境 特征空间 –按迁移方法 –按特征空间 ? 同构迁移学习 ? 异构迁移学习 迁移情境 归纳式迁移 直推式迁移 无监督迁移  基于 基于 实例的 特征的 迁移 迁移 迁移方法 基于 基于 关系的 模型的 迁移 迁移 按迁移情境分类： 归纳式迁移学习 (inductive transfer learning) 源域和目标域的学习任务不同 直推式迁移学习 (transductive transfer learning) 源域和目标域不同，学习任务相同 无监督迁移学习 (unsupervised transfer learning) 源域和目标域均没有标签 学习情境 源域和目标域 源域和目标域任务 传统机器学习 相同 相同 归纳式迁移/ 相同 不同但相关 迁移学习 无监督迁移 不同但相关 不同但相关 直推式迁移 不同但相关 相同 ? 按特征空间进行分类： 同构迁移学习  异构迁移学习 Homogeneous TL  Heterogeneous TL 特征维度相同分布不同 同构  特征维度不同 同构迁移学习 监督迁移学习 迁移学习 特征空间 半监督迁移学习 无监督迁移学习 异构 异构迁移学习 按迁移方法分类： 基于实例的迁移 (instance based TL) 通过权重重用源域和目标域的样例进行迁移 基于特征的迁移 (feature based TL) 将源域和目标域的特征变换到相同空间 基于模型的迁移 (parameter based TL) 利用源域和目标域的参数共享模型 基于关系的迁移 (relation based TL) 利用源域中的逻辑网络关系进行迁移 分类方法总结 基于实例的迁移学习方法 –假设：源域中的一些数据和目标域会共享很多共同的特征 –方法：对源域进行 instance reweighting ，筛选出与目标域数据相似度高的数据，然后进行训练学习 –代表工作： TrAdaBoost [Dai, ICML-07] Kernel Mean Matching (KMM) [Smola, ICML-08] Density ratio estimation [Sugiyama, NIPS-07] –优点： 方法较简单，实现容易 –缺点：