【DNN解释算法的攻击与防御课题的研究现状文献综述2800字】.docx

DNN解释算法的攻击与防御课题的研究现状文献综述

1.1对DNN解释算法的攻击研究现状

在神经网络模型取得巨大成功的同时，也对DNN解释算法的合理性进行了检验。虽然解释算法的研究越来越受关注，但是不一定都可以取得满意的效果，因此对解释算法的检验方面的研究在近些年逐渐涌现。目前对解释算法的攻击可以分为两大类：改变模型[4,5,6,11,121,改变输入样本[13,14,16,17,191。本文提出的攻击方法属于第二种。

改变模型攻击解释，也可以分为两类：更新模型权重，完全构造一个操纵模型。更新模型权重是在原始模型的架构上，只涉及对权重的迭代更新。2018年，Adebayo