从任务划分就开始与众不同的元学习-潘珲.pdf

BeijingForestStudio

ThenameoftheDepartment

北京理工大学信息系统及安全对抗实验中心

部门名称

从任务划分就开始与众不同的

元学习

硕士研究生潘珲

2022年10月03日

内容提要

•背景简介

•基本概念

•任务架构

•优化方向

•参考文献

2

内容提要

•预期收获

–1.了解元学习的基本概念

–2.掌握元学习的基本训练过程

–3.理解元学习与常规网络的不同

–4.了解元学习的应用场景

3

背景介绍

•好的机器学习模型经常需要大量的数

据来进行训练，但人却恰恰相反

•那么有没有可能让机器学习模型也具

有相似的性质呢？

•如何才能让模型仅仅用少量的数据就

学会新的概念和技能呢？

•什么是元学习呢？

4

基本概念——版本1

•1987年，科学家就已经提出了元学习的概念

–机器通过与环境进行交互，不断获取信息，进行自我更新调整，从而不断地适应

环境，在没有任何人为干预的场景下，机器能自发地适应并且进化，智能化地学

会怎么解决遇到的任何任务

•3090算力能达到35.6TFLOPS

•智械危机？

5

基本概念——版本2

•元学习的概念属于强人工智能的范畴，是指让机器学会学习从而让机器变得更

加智能，代替人类完成复杂多变的任务

–让机器学会学习，使其具备分析和解决问题的能力，机器通过完成任务获取经验，

提高完成任务的能力

–让机器学习模型可以更好地泛化到新领域中，从而完成差异很大的新任务

他能学吗？学不了，没有这个能力

6

基本概念——版本3

•元学习(Meta-Learning)通常被理解为“学会学习(Learning-to-Learn)”

–常见的深度学习模型，目的是学习一个用于预测的数学模型

–元学习面向的不是学习的结果，而是学习的过程

–其学习的不是一个直接用于预测的数学模型，而是学习“如何更快更好地学习一

个数学模型“

•核心思想

–训练一个可以快速适应任务的模型

7

能学，但只能学一点点

任务构建

•Task

–元学习的基本单元是任务

•元训练任务

•元测试任务

–每个任务都有自己的训练集和测试集

–元训练任务的训练集和测试集一般称为

支持集(SupportSet)和查询集(Query

Set)

–支持集又是一个N-Way