检测深度神经网络(DNN)上的对抗攻击.pdfVIP

  • 13
  • 0
  • 约1.81万字
  • 约 15页
  • 2023-05-10 发布于四川
  • 举报
一种用于保护具有包括一个或多个中间层的多个层的深度神经网络(DNN)的方法、装置和计算机程序产品。在该方法中,接收训练数据集。在使用所接收的训练数据集来训练DNN期间,记录与中间层相关联的激活的表示。针对表示中的至少一个或多个,训练单独的分类器(模型)。分类器共同地用于训练离群值检测模型。在训练之后,使用离群值检测模型来检测深度神经网络上的对抗输入。离群值检测模型生成预测以及给定输入是否是对抗输入的指示符。根据另一方面,响应于检测到对抗输入,采取动作以保护与DNN相关联的部署的系统。

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 114519185 A (43)申请公布日 2022.05.20 (21)申请号 202111325071.5 G06N 3/08 (2006.01) (22)申请日 2021.11.1

文档评论(0)

1亿VIP精品文档

相关文档