CN115346130B 一种提升遥感下游任务性能的知识迁移方法 （北京理工大学）.docxVIP

(19)国家知识产权局

(12)发明专利

(10)授权公告号CN115346130B

(45)授权公告日2025.07.04

(21)申请号202210797891.2

(22)申请日2022.07.08

(65)同一申请的已公布的文献号申请公布号CN115346130A

(43)申请公布日2022.11.15

(73)专利权人北京理工大学

地址100081北京市海淀区中关村南大街5

号

(72)发明人张桐庄胤王冠群陈禾

(74)专利代理机构北京理工大学专利中心

11120

专利代理师张丽娜

(51)Int.CI.

GO6V20/13(2022.01)

GO6N3/042(2023.01)

GO6N3/0464(2023.01)

GO6N3/0455(2023.01)

GO6N3/0895(2023.01)

GO6N3/096(2023.01)

GO6V10/10(2022.01)

GO6V10/46(2022.01)

GO6V10/774(2022.01)

GO6V10/82(2022.01)

(56)对比文件

TongZhang等.ConsecutivePretraining:

AKnowledgeTransferLearningStrategywithRelevantUnlabeledDataforRemote

SensingDomain.ComputerVisionandPatternRecognition.2022,全文.

审查员母润发

权利要求书2页说明书7页附图1页

(54)发明名称

一种提升遥感下游任务性能的知识迁移方

法

(57)摘要

CN115346130B本发明涉及一种计算机视觉领域知识迁移学习方法，具体涉及一种提升遥感下游任务性能的知识迁移方法，属于遥感领域下游任务网络模型训练技术领域。首先，利用重建随机遮罩图像的自监督代理任务在大规模自然场景数据集上对基于Transformer网络结构的自编码器进行自监督预训练，以获取领域级泛化知识。然后，将已经完成大规模自然场景数据预训练的模型参数继续在遥感场景下游任务数据上进行持续自监督预训练。最后，将完成两个阶段预训练编-解码结构中的编码器模型作为基础特征提取骨架网络直接嵌入到各种下游任务的网络架构中，并通

CN115346130B

CN115346130B权利要求书1/2页

2

1.一种提升遥感下游任务性能的知识迁移方法，其特征在于步骤包括：

步骤1,利用重建随机遮罩图像的建模方式在大规模自然场景数据集上对基于Transformer特征提取网络的自编码器进行第一阶段的无标注的自监督预训练，得到预训练后的自编码器的模型参数；

步骤2,收集与遥感下游任务相关的无标注遥感数据，并与遥感下游任务自身的数据进行结合，组成第二阶段的无标注持续自监督预训练数据，标记为Data;

步骤3,使用步骤1获取的模型参数在步骤2得到的第二阶段的无标注持续自监督预训练数据上再次进行无标注的自监督预训练，获得任务感知的自编码器的模型参数；

步骤4,将步骤3获取的自编码器中编码器部分的模型参数和相应的网络结构作为骨架网络嵌入到遥感下游任务的网络结构当中，然后在具有标签信息的数据上进行有监督的模型参数微调训练，以完成知识迁移促进遥感下游任务的性能提升。

2.根据权利要求1所述的一种提升遥感下游任务性能的知识迁移方法，其特征在于：

所述的步骤1中，基于Transformer特征提取网络的自编码器，包括编码器和解码器两个部分，编码器部分采用12层具有多头注意力机制的TransformerBlock的网络结构；解码器部分采用8层具有多头注意力机制的TransformerBlock的轻量级网络结构。

3.根据权利要求1或2所述的一种提升遥感下游任务性能的知识迁移方法，其特征在于：

所述的步骤1中，进行第一阶段的无标注的自监督预训练的具体方法为：

步骤1.1,将自然场景图像规范到3×224×224分辨率的图像尺寸，然后将规范后的自然场景图像处理为196个16×16分辨率的补丁块，并将其中的147个补丁块随机设置像素信息为零，得到被随机遮罩后的图像S,其中，像素信息设置为零的部分用X表示，像素信息不被设置为零的部分用X表示；

步骤1.2,将步骤1.1得到的被随机遮罩后的图像S输