CN114022770B 基于改进自注意力机制与迁移学习的山体裂缝检测方法 （中山大学）.docxVIP

(19)国家知识产权局

(12)发明专利

(10)授权公告号CN114022770B(45)授权公告日2025.07.01

(21)申请号202111335474.8

(22)申请日2021.11.11

(65)同一申请的已公布的文献号申请公布号CN114022770A

(43)申请公布日2022.02.08

GO6V

GO6V

GO6N

GO6N

GO6N

GO6N

10/774(2022.01)10/82(2022.01)3/0455(2023.01)

3/0464(2023.01)

3/092(2023.01)

3/096(2023.01)

(73)专利权人中山大学

地址510275广东省广州市海珠区新港西

路135号

(56)对比文件

CN111986164A,2020.11.24CN112560895A,2021.03.26

(72)发明人吴贺俊李可审查员章婧

(74)专利代理机构广州粤高专利商标代理有限公司44102

专利代理师禹小明

(51)Int.CI.

GO6V20/10(2022.01)

GO6V10/40(2022.01)权利要求书3页说明书8页附图2页

(54)发明名称

基于改进自注意力机制与迁移学习的山体裂缝检测方法

(57)摘要

CN114022770B本发明提供基于改进自注意力机制与迁移学习的山体裂缝检测方法，该方法对裂缝检测网络的数据集进行预处理得到训练集和验证集；利用得到的训练集对裂缝检测网络进行训练；利用得到的验证集选择训练裂缝检测网络得到的表现最好的模型；在不同道路裂缝数据集上测试模型的性能，泛化性；利用迁移学习方法将处理后的模型应用于山体裂缝检测。本发明面向高精度山体裂缝检测应用场景，研究图片不同尺度特征的提取方式，提出了一种新型的裂缝检测网络结构，并从结构层面和公式层面对新网络进行了详细的阐述。本发明利用不同的数据实验说明了网

CN114022770B

在。

造图片

造图片

CN114022770B权利要求书1/3页

2

1.一种基于改进自注意力机制与迁移学习的山体裂缝检测方法，其特征在于，包括以下步骤：

S1:对裂缝检测网络的数据集进行预处理得到训练集和验证集；

S2:利用步骤S1得到的训练集对裂缝检测网络进行训练，过程为：

S21:使用ImageNet-1k预训练裂缝检测网络的Swin-Transformer主干网络部分；

所述Swin-Transformer主干网络包含两种基本网络模块：Swin-Transformer模块和Patch-merging模块：

1)、Swin-Transformer模块：

Swin-Transformer是一种包含改进的自注意力机制的模块，它提取图片的全局依赖关系，同时改进一般自注意力模块训练缓慢的问题，Swin-Transformer中包含若干连续Swin-Transformerblock对，输入在第一个block中首先经过线性归一化层与基于滑动窗口的多头自注意力层计算并加上残差，之后经过线性归一化层和多层感知机层再加上残差，得到的输出交给下一个block,依旧进行上述过程计算，唯一不同之处在于基于窗口的多头自注意力层变换成了移动的基于窗口的多头自注意力层，设输入为z1-1,公式化上述过程可得：

z1=W-MSA(LN(z1-1)+z1-1,

z1=MLP(LN(z))+21,

z1+1=SW-MSA(LN(z1))+z1,

z1+1=MLP(LN(z1+1))+z1+1

其中，W-MSA表示基于窗口的多头自注意力层；LN表示线性归一化层；MLP表示多层感知机；SW-MSA表示移动的基于窗口的多头自注意力层；z1-1为第1个Swin-Transformerblock对中第一个block的输入；1为第1个基于窗口的多头自注意力层的输出；z1为第1个Swin-Transformerblock对中第一个block的输出；z1+1为第1个移动的基于窗口的多头自注意力层的输出；z1+1为第1个Swin-Transformerblock对中下一个block的