CN115632843B 基于目标检测的后门攻击防御模型的生成方法 （云南大学）.docxVIP

(19)国家知识产权局

(12)发明专利

(10)授权公告号CN115632843B(45)授权公告日2025.07.04

(21)申请号202211245119.6

(22)申请日2022.10.12

(65)同一申请的已公布的文献号申请公布号CN115632843A

(43)申请公布日2023.01.20

(73)专利权人云南大学

地址650091云南省昆明市五华区翠湖北

路2号

(72)发明人张云春封凡廖梓琨张宁

李子璇姚绍文萧纯一李柏萱黄飞杨陈语瑭

(74)专利代理机构昆明金科智诚知识产权代理

(51)Int.CI.

H04L9/40(2022.01)

GO6N3/0464(2023.01)

GO6N3/08(2023.01)

(56)对比文件

CN113255909A,2021.08.13

US2022253714A1,2022.08.11审查员杨险峰

事务所(普通合伙)53216专利代理师胡亚兰

权利要求书1页说明书8页附图1页

(54)发明名称

基于目标检测的后门攻击防御模型的生成

方法

(57)摘要

CN115632843B本发明公开了一种基于目标检测的后门攻击防御模型的生成方法，先选取基准数据，从单个待检测标签类Y中选取一张清晰的图像X作为基准数据；使用SinGAN模型对基准数据进行多尺度学习，对SinGAN模型参数进行随机初始化，选取差异性较大的第0层数据作为增强后的干净数据集D;给定数量为N且尺寸大小为(w,h)的训练后门集D,并且将D放置到干净数据集D。的任意位置处，合成后的样本集合记为中毒训练集D;利用训练的目标检测工具Yolov5模型对中毒训练集D,生成后门防御模型M(x,y,w,h)。从而使得最终的模型对面向深度神经网络的后门攻击具有

CN115632843B

基准数feh0005

夏禁Dt

CN115632843B权利要求书1/1页

2

1.基于目标检测的后门攻击防御模型的生成方法，其特征在于，包括以下步骤：

步骤一：选取基准数据，从单个待检测标签类y中选取一张清晰的图像X作为基准数据；

步骤二：使用SinGAN模型对基准数据进行多尺度学习，对SinGAN模型参数进行随机初始化，选取差异性较大的第0层数据作为增强后的干净数据集D;

步骤三：给定数量为N且尺寸大小为(w,h)的训练后门集D,并且将D放置到干净数据集

D.的任意位置处，合成后的样本集合记为中毒训练集D;

步骤四：利用训练的目标检测工具Yolov5模型对中毒训练集D生成后门防御模型M(x,y,w,b);

所述步骤二中，SinGAN模型从单张图像的多尺度中捕捉不同的数据分布来生成一组具有内部相关性的数据集，该模型内部包括：用来生成数据分布的生成器G和用来判别数据分布的判别器D,其中G和D的内部结构是具有五层卷积块的卷积神经网络，输入层是随机噪声和上一个尺度被上采样的图片，输出层是由五层卷积块的卷积神经网络和上采样图像融合后的结果组成；生成器G描述为：

Xn=(Xn+1)?+φ(Zn+(Xn+1)个)

其中，Z为噪声，φ表示五层卷积块的卷积神经网络，(Xn+1)个表示图像的上采样版本，n表示当前所处的尺度，X是G、对应的输出结果，卷积网络由5个卷积块组成，其形式为：Conv(3×3)-BatchNorm-LeakyReLU;

判别器D的架构和G中的4保持一致，

SinGAN模型将G的训练损失分为对抗损失和重建损失，定义SinGAN模型的损失函数L为

其中，Ladv表示对抗损失函数，用来调整X补丁分布和生成样本中补丁分布中的距离，Lrec表示重建损失函数，用来确保每个G中需要存在一组特定的噪声映射，为一个嵌套的优化目标函数，内部的判别器以实现两者的损失函数值最大化为目标；外层的生成器则以最小化损失函数值为目标。

2.根据权利要求1所述的基于目标检测的后门攻击防御模型的生成方法，其特征在于，所述步骤一中，从单个待检测标签y∈[1,C],C表示深度神经网络的输出标签种类总数。

3.根据权利要求1所述的基于目标检测的后门攻击防御模型的生成方法，其特征在于，所述步骤三中，后门类型T的数量在10至50个。

4.根