面向多方数据隔离场景的域自适应方法.pdfVIP

摘要

近年来，无监督域自适应任务取得了重大的研究进展和广泛的应用。统

无监督域自适应方法通过有标签源域数据和无标签目标域数据的联合训练来获

取良好的跨域特征表示。但在实际场景中，由于数据隐私、数据输等问题，源

域无法与目标域共享数据以建立具有跨域泛化能力的目标域模型。因此，多方

数据隔离场景下的域自适应问题受到了广泛的关注。

由于训练良好的源域模型中包含特征分布以及决策边界等信息，一些现有

的方法利用白盒源域模型替代原始源域数据来为目标域提供源域知识。在更具

挑战性的数据隔离场景中，源域将模型封装为黑盒并向目标域提供可供查询的

接口，以此来递源域知识。本文主要针对提高伪标签质量以及泛化表征学习

展开研究，为基于递白盒源域模型和基于黑盒源域模型查询两种数据隔离场

景分别提出一种无监督域自适应方案。

对于递白盒源域模型的数据隔离场景，本文设计了自适应原型伪标签策

略，根据样本特征与类别原型之间的余弦距离调整伪标签，提高伪标签质量。

此外，本文在细粒度和粗粒度语义层次利用对比表征学习来获取具有良好泛化

能力的数据表征，解决了基于白盒模型的无源域数据域自适应问题。

针对黑盒源域模型查询的数据隔离场景，本文利用第三方公开数据作为探

查黑盒源域模型信息的媒介，挖掘源域模型的隐藏知识并在目标域构建具有良

好泛化能力的目标域模型。然后利用基于加权聚簇的伪标签方案提升伪标签质

量。此外，本文提出分布对抗训练对齐第三方数据与目标域数据的分布，从而

缓解查询结果中的标签偏差，进一步提升模型的泛化性能。此方法解决了黑盒

查询无源域数据域自适应问题，多个数据集上的结果证明了此方法的有效性。

关键词：域自适应，伪标签，自监督学习，表征学习，数据隔离

I

ABSTRACT

Inrecentyears,unsuperviseddomainadaptivetaskshaveachievedgreatresearch

progressandextensiveapplications.Unsuperviseddomainadaptivemethodsobtain

domain-invariantrepresentationbythejointtrainingoflabeledsourceandunlabeled

targetdomains.Inactualscenarios,duetodataprivacyanddatatransmissionproblems,

thesourcedomainscannotsharedatawiththetargetdomainandbuildatargetmodel

withgeneralizationability.Hence,domainadaptationformulti-partydataisolation

scenarioshasbeenwidelyconcerned.

Becausethewell-trainedsourcemodelcontainsinformationsuchasfeaturedistri-

butionanddecisionboundaries,someexistingmethodsutilizewhite-boxsourcemod-

elsratherthantherawsourcedatatoprovidesourceknowledgeforthetargetdomain.

Inthemorechallengingdataisolationscenarios,thesourcedomainencapsulatesthe

modelasablackboxandprovidesaqueryinterfacetothetargetdomain.Thispaper

mainlyfocusesonimpro