面向异构任务的元学习迁移机制与特征对齐协议底层逻辑分析.pdfVIP

面向异构任务的元学习迁移机制与特征对齐协议底层逻辑分析1

面向异构任务的元学习迁移机制与特征对齐协议底层逻辑分

析

1.元学习与迁移学习基础

1.1元学习定义与框架

元学习（Meta-Learning）是指“学会学习”的过程，其目标是设计出能够在新任务上

快速适应的学习算法。它通过在多个相关任务上进行训练，学习到一种通用的学习策

略，使得在面对新的、未见过的任务时，能够利用较少的数据和较少的训练时间达到较

好的性能。根据不同的学习目标和方法，元学习可以分为基于模型的元学习、基于优化

的元学习和基于度量的元学习三种主要框架。

•基于模型的元学习：该框架的核心思想是设计一个模型架构，使其能够直接学习

任务的通用表示。例如，神经架构搜索（NAS）就是一种基于模型的元学习方法，

通过在多个任务上搜索最优的神经网络架构，使得找到的架构在新任务上具有良

好的泛化能力。根据相关研究，使用NAS方法搜索得到的模型在图像分类任务上

相比于传统手工设计的模型，准确率平均可以提升5%-10%左