基于对抗样本的深度学习分类模型安全测评方法标准化发展研究报告.docx

基于对抗样本的深度学习分类模型安全测评方法行业标准制定研究报告

SecurityEvaluationMethodofDeepLearningClassificationModelsBasedonAdversarialExamples:AStandardDevelopmentResearchReport

摘要

随着深度学习技术在通信、网络安全、自动驾驶等关键领域的广泛应用，深度学习分类模型的安全性问题日益凸显。对抗样本作为深度学习模型面临的主要安全威胁之一，能够通过微小扰动导致模型产生错误分类，严重威胁人工智能系统的可靠性与安全性。当前，国内尚缺乏针对基于对抗样本的深度学习分类模型安全测评的统一行业标准，亟需建立科学、规范的测评方法体系。本报告基于中国通信标准化协会2025年立项的行业标准制定计划（项目编号：2025-0797T-YD），系统阐述了该标准的制定背景、技术框架、核心内容及行业意义。该标准由哈尔滨工程大学牵头，联合杭州市滨江区浙工大人工智能创新研究院、杭州安恒信息技术股份有限公司共同起草，聚焦网络与数据安全领域新兴技术和业务安全方向，旨在规范对抗样本生成方法、安全测评指标体系及测评流程，为深度学习分类模型的安全性评估提供标准化技术依据。本报告还介绍了主要参与单位的科研实力与标准化工作经验，并对标准的未来应用前景进行了展望。

关键词：对