OpenHAIV:面向实用开放世界学习的框架.pdfVIP

OpenHAIV:面向实用开放世界学习的框架.pdf

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

OpenHAIV:面向实用开放世界学习的框架

1,2111

XiangXiang,QinhaoZhou,ZhuoXu,JingMa,

111

JiaxinDai,YifanLiang,HanlinLi

1HUSTAIandVisualLearningLab(HAIVLab),

HuazhongUniversityofScienceandTechnology(HUST),

1037LuoyuRoad,Wuhan,Hubei430074,China.

2PengChengNationalLaboratory,Shenzhen,China.

*Correspondingauthor(s).E-mail(s):xex@;

译摘要

中在开放世界识别的各种技术方面取得了实质性进展。分布外(OOD)检测方法可

以有效地区分数据中的已知类和未知类,而增量学习则能够实现模型知识的持续更

1新。然而,在开放世界场景中,这些方法仍然面临限制。仅依赖OOD检测并不能促

v进模型的知识更新,而增量微调通常需要监督条件,这与开放世界的设置有显著偏

0离。为了解决这些问题,本文提出了OpenHAIV,一种将OOD检测、新类别发现

7和增量持续微调整合到统一管道中的新型框架。该框架允许模型自主地在开放世界

2环境中获取和更新知识。所提出的框架可在https://haiv-lab.github.io/openhaiv

7获得。

0

.

8Keywords:开放世界学习,分布外检测,新类发现,增量学习,少量样本增量学习

0

5

2

:

v

i1介绍

x

r

a近年来,随着深度学习技术的持续进步,连续学习[1–3]也迅速发展,产生了

一系列令人印象深刻的研究成果。连续学习旨在使模型在有限或受限访问之前学

到的知识相关数据的情况下,保留现有知识的同时不断获取新知识,这些新知识

通常源自新的数据。根据定义的不同场景,连续学习通常被归类为任务增量学习、

类别增量学习[4]和领域增量学习。在这三种设置中,类别增量学习研究最为广泛。

以分类任务为例,类别增量学习将数据集分为多个会话,不同会话中的类别不重

1

叠。模型需要随着时间推移学习每个会话的类别,并在每次更新后对所有类别进

行评估。相比之下,任务增量学习假设在评估时知道数据属于哪个会话,允许模型

仅在其对应的任务中进行分类。另一方面,在领域增量学习中,不同的会话涉及来

自同一组类别的数据,但具有不同的分布。模型需要在执行分类的同时正确识别

测试数据的域。针对这些设置的研究已显著提高了多阶段微调场景下的模型性能。

然而,尽管增量学习研究取得了显著进展,当前的研究范式仍局限于封闭环

境,其中每个阶段的新类数量和总阶段数是预先确定的。此外,新的阶段数据仅

包含新的类别,这仍然与现实的开放世界场景[5–7]有所偏离。在一个真实的开放

世界设置中,其未知类别的数量和相的数量本质上都是不确定的。而且,每个阶

段的新数据可能是已知类和未知类的混合体。在知识更新过程中,模型面临各种

文档评论(0)

专业Latex文档翻译 + 关注
实名认证
服务提供商

专业Latex文档翻译,完整保持文档排版,完美处理文档中的数学公式和图表等元素,并提供 arXiv Latex 论文中文翻译。

1亿VIP精品文档

相关文档