Evolution-Is-Also-You-Need-深度学习模型后门攻击检测-李嘉玮.pdf

BeijingForestStudio

ThenameoftheDepartment

北京理工大学信息系统及安全对抗实验中心

部门名称

EvolutionIsAlsoYouNeed

-深度学习模型后门攻击检测

硕士研究生李嘉玮

2024年05月19日

问题回溯

•总结反思

–PPT的字过多

–实验部分需要多加分析

–讲述过程中存在重复、冗余的现象，需精简语言

•相关内容

–后门攻击

•2023.06.26Saba《DeepLearningBackdoorAttacksDetection》

•2023.04.09杨得山《联邦学习的后门防御方法》

–后门攻击检测/防御

•2024.01.14赵怡清《对抗性扰动下的后门防御方法》

•2023.10.29李嘉玮《深度神经网络模型后门攻击检测》

•2023.03.19吴肖龙《基于模型修改的深度学习后门攻击》

2

内容提要

•预期收获

•题目内涵解析

•研究背景与意义

•研究历史与现状

•知识基础

•算法原理

–Orion

–TED

•特点总结与工作展望

•参考文献

3

预期收获

•预期收获

–了解深度学习后门攻击的基本概念

–掌握在模型应用阶段的后门攻击检测策略和算法原理

–理解深度学习后门攻击检测的发展趋势和未来前景

4

目标内涵深度学习模型后门攻击检测

•研究目标

–面向AI深度学习图像分类和文本分类模型

–研究后门攻击的行为特征挖掘不充分等关键问题

–结合深度学习相关理论，实现深度学习后门攻击检测准确率的提升

•内涵解析

–图像分类：多分类任务，将图像分类到预定义类别

–文本分类：多分类任务，将文本对象分类到预定义类别（如情感分析、意图识别）

–后门攻击

•后门：绕过软件的安全机制，从隐秘通道获取对程序控制或访问权限的黑客方法

•后门攻击：通过数据投毒、模型修改等方式向模型中植入后门，并使用触发器样

本（后门样本）控制模型输出的攻击行为

–检测：通过观察、测试、分析来确定或发现某事物的存在、状态、性质或特征

5

背景意义信息系统安全

•信息系统安全基本要素（CIA）

–机密性（Confidentiality）：指信息不被非授权解析，信息系统不被非授权使用的特性

•数据安全：确保数据即便被捕获也不会被解析

•物理安全、运行安全：确保信息系统即便能够被访问也不能够越权访问与其身份不相

符的信息

–完整性（Integrity）：指信息不被篡改的特性

•数据安全：确保信息不被篡改或任何被篡改了的信息都可以被发现

–可用性（Availability）：指信息与信息系统在任何情况下都能够在满足基本需求的前

提下被使用的特性