多源域分布下优化权重的无监督迁移学习Boosting方法.pdfVIP

第４０卷第２期计算机应用研究Ｖｏｌ４０Ｎｏ２

２０２３年２月ＡｐｐｌｉｃａｔｉｏｎＲｅｓｅａｒｃｈｏｆＣｏｍｐｕｔｅｒｓＦｅｂ．２０２３

多源域分布下优化权重的无监督

迁移学习Ｂｏｏｓｔｉｎｇ方法

ａｂ

李波，王士同

（江南大学ａ．人工智能与计算机学院；ｂ．江苏省物联网应用技术重点建设实验室，江苏无锡２１４１２２）

摘要：深度决策树迁移学习Ｂｏｏｓｔｉｎｇ方法（ＤＴｒＢｏｏｓｔ）可以有效地实现单源域有监督情况下向一个目标域迁移

学习，但无法实现多个源域情况下的无监督迁移场景。针对这一问题，提出了多源域分布下优化权重的无监督

迁移学习Ｂｏｏｓｔｉｎｇ方法，主要思想是根据不同源域与目标域分布情况计算出对应的ＫＬ值，通过比较选择合适数

量的不同源域样本训练分类器并对目标域样本打上伪标签。最后，依照各个不同源域的ＫＬ距离分配不同的学

习权重，将带标签的各个源域样本与带伪标签的目标域进行集成训练得到最终结果。对比实验表明，提出的算

法实现了更好的分类精度并对不同的数据集实现了自适应效果，分类错误率平均下降２．４％，在效果最好的

ｍａｒｋｅｔｉｎｇ数据集上下降６％以上。

关键词：深度决策树迁移学习（ＤＴｒＢｏｏｓｔ）；迁移学习；无监督学习；决策树

中图分类号：ＴＰ１８１文献标志码：Ａ文章编号：１００１３６９５（２０２３）０２００８０３６５０６

ｄｏｉ：１０．１９７３４／ｊ．ｉｓｓｎ．１００１３６９５．２０２２．０６．０３２７

ＵｎｓｕｐｅｒｖｉｓｅｄｔｒａｎｓｆｅｒｌｅａｒｎｉｎｇＢｏｏｓｔｉｎｇｆｏｒｗｅｉｇｈｔｏｐｔｉｍｉｚａｔｉｏｎ

ｕｎｄｅｒｍｕｌｔｉｓｏｕｒｃｅｄｏｍａｉｎｄｉｓｔｒｉｂｕｔｉｏｎ

ａｂ

ＬｉＹｕｎｂｏ，ＷａｎｇＳｈｉｔｏｎｇ

（ａ．ＳｃｈｏｏｌｏｆＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｇｅｎｃｅ＆ＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ，ｂ．ＪｉａｎｇｓｕＫｅｙＣｏｎｓｔｒｕｃｔｉｏｎＬａｂｏｒａｔｏｒｙｏｆＩｏＴＡｐｐｌｉｃａｔｉｏｎＴｅｃｈｎｏｌｏｇｙ，ＪｉａｎｇｎａｎＵｎｉ

ｖｅｒｓｉｔｙ，ＷｕｘｉＪｉａｎｇｓｕ２１４１２２，Ｃｈｉｎａ）

Ａｂｓｔｒａｃｔ：Ｔｈｅｄｅｅｐｄｅｃｉｓｉｏｎｔｒｅｅｍｉｇｒａｔｉｏｎｌｅａｒｎｉｎｇｂｏｏｓｔｉｎｇｍｅｔｈｏｄ（ＤｔｒＢｏｏｓｔ）ｃａｎｅｆｆｅｃｔｉｖｅｌｙｒｅａｌｉｚｅｔｈｅｍｉｇｒａｔｉｏｎｌｅａｒｎｉｎｇ

ｆｒｏｍａｓｉｎｇｌｅｓｏｕｒｃｅｄｏｍａｉｎｔｏａｔａｒｇｅｔｄｏｍａｉｎｕｎｄｅｒｓｕｐｅｒｖｉｓｉｏｎ，ｂｕｔｃａｎｎｏｔｒｅａｌｉｚｅｔｈｅｕｎｓｕｐｅｒｖｉｓｅｄｍｉｇｒａｔｉｏｎｓｃｅｎａｒｉｏｕｎ

ｄｅｒｍｕｌｔｉｐｌｅｓｏｕｒｃｅｄｏｍａｉｎｓ．Ｔｏｓｏｌｖｅｔｈｉｓｐｒｏｂｌｅｍ，ｔｈｉｓｐａｐｅｒｐｒｏｐｏｓｅｄａｎｕｎｓｕｐｅｒｖｉｓｅｄｔｒａｎｓｆｅｒｌｅａｒｎｉｎｇｂｏｏｓｔｉｎｇｍｅｔｈｏｄｆｏｒ

ｏｐｔｉｍｉｚｉｎｇｔｈｅｗｅｉｇｈｔｕｎｄｅｒｍｕｌｔｉｓｏｕｒｃｅｄｏｍａｉｎｄｉｓｔｒｉｂｕｔｉｏｎ．ＴｈｅｍａｉｎｉｄｅａｗａｓｔｏｃａｌｃｕｌａｔｅｔｈｅｃｏｒｒｅｓｐｏｎｄｉｎｇＫＬｖａｌｕｅａｃ

ｃｏｒｄｉｎｇｔｏｔｈｅｄｉｓｔｒｉｂｕｔｉｏｎｏｆｄｉｆｆｅｒｅｎｔｓｏｕｒｃｅｄｏｍａｉｎｓａｎｄｔａｒｇｅｔｄｏｍａｉｎｓ，ｓｅｌｅｃｔｅｄａｎａｐｐｒｏｐｒｉａｔｅｎｕｍｂｅｒｏｆｓａｍ