?
?
深度神经网络模型后门植入与检测技术研究综述*
?
?
马铭苑,李 虎,王梓斌,况晓辉
(军事科学院系统工程研究院信息系统安全技术重点实验室,北京 100101)
1 引言
近年来,人工智能技术发展迅速,被广泛应用在图像识别、文本识别、语音识别、恶意软件检测和自动驾驶等领域。作为当前人工智能的代表性技术之一,深度神经网络通过对数据特征的自动抽取和学习,能够达到更优的学习效果。然而,随着应用范围的不断拓展,深度神经网络的安全性问题也越来越受到关注。现有的研究主要结合人工智能生命周期的不同阶段,对人工智能本身及其衍生的安全性问题进行探讨分析。但是,大多数研究以对抗样本为手段,通过高效生成多样化的对抗样本实现对目标模型训练和测试过程的欺骗,或通过异常检测等方式进行对抗样本检测,或通过对抗训练等方式加固目标模型等。深度神经网络模型对抗技术在快速迭代发展过程中,后门植入方法趋于多样化,其攻击场景更加丰富,对数据、模型和算法等先验知识要求也越来越低。尤其在大模型时代,深度神经网络模型的训练成本越来越高,开发者更趋向于基于公开的预训练模型和数据集对模型进行微调优化,而非从零开始训练模型。但是,公开的预训练模型和数据集通常由不受信任的第三方发布,其安全性难以保证,存在被植入后门的可能性。一旦被植入后门,基于深度神经网络技术的各类应用将面临较大安全风险,如攻击者可以利用人脸识别、语音识
您可能关注的文档
- 液氧贮箱增压稳压控制系统研究.docx
- 液氮冻融对煤体孔隙演变和吸附行为的影响研究.docx
- 液相色谱-质谱法分析磷酸芦可替尼中强制降解后的产物.docx
- 淋巴细胞主动免疫治疗不明原因复发性流产的临床疗效分析.docx
- 淤泥土工管袋筑堤方案设计及效益分析.docx
- 淤泥地层铁路U型槽设计方案研究.docx
- 淤泥堤基上粉细砂排水垫层特性研究.docx
- 淤泥资源化利用方向分析.docx
- 淬火配分-深冷复合处理下NM300耐磨钢微观组织与性能研究①.docx
- 淮南潘集矿区二叠系煤层瓦斯成因类型分析.docx
- 浙江外国语学院大学英语2024-2025学年期末试卷A卷可打印复习备考.docx
- 浙江工商大学计算机基础2024-2025学年期末试卷A卷完整版可打印备考参考.docx
- 浙江树人学院计算机基础2024-2025学年期末试卷A卷完整版可打印备考参考.docx
- 浙江万里学院计算机基础2024-2025学年期末试卷A卷可打印真题期末复习.docx
- 浙江音乐学院C语言程序设计2024-2025学年期末试卷A卷高清可打印期末冲刺.docx
- 浙江越秀外国语学院计算机基础2024-2025学年期末试卷A卷高清可打印期末冲刺.docx
- 浙江建设职业技术学院C语言程序设计2024-2025学年期末试卷A卷可打印大学生期末复习.docx
- 浙江经贸职业技术学院C语言程序设计2024-2025学年期末试卷A卷可打印大学生期末复习.docx
- 浙江科技大学C语言程序设计2024-2025学年期末试卷A卷可打印大学生期末复习.docx
- 浙江理工大学科技与艺术学院C语言程序设计2024-2025学年期末试卷A卷高清可打印期末冲刺.docx
最近下载
- 新解读《GB_T 6949 - 2010煤的视相对密度测定方法》最新解读.docx VIP
- 编外人员档案管理考试试卷.doc VIP
- 东2022年土地登记代理人题库700道含答案(轻巧夺冠).docx
- 100东2023年资料员资格考试题库含答案【综合题】.docx
- 2016河北省对口高考计算机专业理论试题.pdf VIP
- 广发证券-安琪酵母-600298-全球化破局周期性降本.pdf VIP
- 2026年四川省绵阳市中考英语试卷真题(含答案及详解).pdf
- 2026年对口高考计算机 word试题及答案.doc VIP
- IPC-9797-2020 CHN(汽车应用要求及其他高可靠性应用要求的压接标准).pdf VIP
- 2026年人工智能训练师(三级)职业技能鉴定理论考试题库(含答案).docx VIP
原创力文档

文档评论(0)