DNN模型水印及其鲁棒性评估.pdf

BeijingForestStudio

ThenameoftheDepartment

北京理工大学信息系统及安全对抗实验中心

部门名称

DNN模型水印及其鲁棒性评估

硕士研究生邢凤桐

2023年11月12日

问题回溯

•总结反思

–讲解语速较快，讲述内容概念和内涵不明确

–未考虑听众的观感和接受程度，算法细节和原理需要讲述清晰

•相关内容

–2023.04.02夏志豪《深度神经网络鲁棒性评估方法》

–2023.03.12邢凤桐《深度神经网络模型水印保护方法》

–2022.07.24侯钰斌《神经网络模型测试方法与模型健壮性》

2

内容提要

•预期收获

•题目内涵解析

•研究背景与意义

•研究历史与现状

•知识基础

•算法原理

–PLKmark

•特点总结与工作展望

•参考文献

3

背景简介

•预期收获

–掌握模型水印基本概念及分类

–了解DNN模型水印嵌入及验证方法

–了解DNN模型水印鲁棒性评估方法

4

内涵解析与研究目标

•题目内涵解析（DNN模型水印及其鲁棒性评估）

–水印：一种在数字媒体中嵌入可见或不可见标记的技术

–模型水印：一种隐藏在模型中且不影响模型本身功能的特定信息

–鲁棒性：系统或模型在面对各种不确定性和干扰时的稳定性和可靠性

–鲁棒性评估：对系统或模型的鲁棒性进行量化和测试的过程

–模型水印鲁棒性评估：对嵌入在机器学习模型中的水印进行鲁棒性评估的过程

•研究目标

–面向人工智能领域模型知识产权保护

–研究模型版权验证、模型水印嵌入、模型水印鲁棒性评估等关键问题

–结合深度学习、模型窃取攻击与防御等理论

–实现模型水印准确性和鲁棒性的显著提升

5

研究背景

•研究背景

–深度神经网络技术发展迅速，在图像识别、自然语言处理等领域发挥重要作用

–深度神经网络模型的生产成本通常很高，其训练过程繁琐、花销昂贵

–商业竞争、非法售卖、模型泄露、数据滥用

–模型窃取行为严重危害了模型开发者的知识产权Youhave

stolenmy

model!

TrainBelong

Dataset