深度神经网络模型后门植入与检测技术研究综述.docx

深度神经网络模型后门植入与检测技术研究综述.docx

? ? 深度神经网络模型后门植入与检测技术研究综述* ? ? 马铭苑,李 虎,王梓斌,况晓辉 (军事科学院系统工程研究院信息系统安全技术重点实验室,北京 100101) 1 引言 近年来,人工智能技术发展迅速,被广泛应用在图像识别、文本识别、语音识别、恶意软件检测和自动驾驶等领域。作为当前人工智能的代表性技术之一,深度神经网络通过对数据特征的自动抽取和学习,能够达到更优的学习效果。然而,随着应用范围的不断拓展,深度神经网络的安全性问题也越来越受到关注。现有的研究主要结合人工智能生命周期的不同阶段,对人工智能本身及其衍生的安全性问题进行探讨分析。但是,大多数研究以对抗样本为手段,通过高效生成多样化的对抗样本实现对目标模型训练和测试过程的欺骗,或通过异常检测等方式进行对抗样本检测,或通过对抗训练等方式加固目标模型等。深度神经网络模型对抗技术在快速迭代发展过程中,后门植入方法趋于多样化,其攻击场景更加丰富,对数据、模型和算法等先验知识要求也越来越低。尤其在大模型时代,深度神经网络模型的训练成本越来越高,开发者更趋向于基于公开的预训练模型和数据集对模型进行微调优化,而非从零开始训练模型。但是,公开的预训练模型和数据集通常由不受信任的第三方发布,其安全性难以保证,存在被植入后门的可能性。一旦被植入后门,基于深度神经网络技术的各类应用将面临较大安全风险,如攻击者可以利用人脸识别、语音识

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档