人工智能安全算法安全属性评价规范编制说明.pdfVIP

《人工智能安全算法安全属性评价

规范》

编制说明

标准起草工作组

2025年11月

一、目的意义

随着人工智能技术在金融、电信、工业互联网、智慧城

市等领域的广泛应用，算法失效、对抗攻击、后门植入、数

据投毒、隐私泄露、偏见歧视等安全问题日益凸显，亟需建

立统一的算法安全属性评价方法，为算法安全设计、测评认

证和监管提供可量化、可比对的技术依据。

该标准的研制主要包含三点目的。一是提升人工智能算

法本体的安全能力。通过对人工智能算法的内生安全属性开

展系统性评价，识别算法在可解释性、鲁棒性、可控性等方

面的薄弱环节，有助于研发阶段提前发现潜在安全隐患，提

升模型本身的稳健性与可靠性。二是支撑人工智能算法的风

险管理与安全准入。通过构建规范化的算法安全属性评价体

系，为算法上线部署、应用监管、合规评估等提供依据，降

低因算法内在缺陷导致的安全事件风险。三是推动人工智能

技术健康可控发展。加强算法安全属性评估机制建设，有助

于建立安全可信的技术基础，支撑人工智能在重点行业和关

键领域中的稳妥应用，助力构建具有可解释、可验证、可追

溯能力的算法生态体系。

为落实国家有关网络安全、数据安全、个人信息保护和

人工智能治理的总体要求，推动构建覆盖全生命周期的人工

智能安全保障体系，有必要在既有算法安全评估规范基础上，

系统梳理人工智能算法安全风险特征，提出面向算法本体的

安全属性体系，并配套一套可操作、可落地的评价指标及测

算方法。一是应对算法脆弱性带来的新型安全风险。随着人

工智能算法广泛嵌入关键系统，其本体结构复杂性和黑箱特

性带来了可控性弱、行为不确定等新型风险，亟需建立面向

算法层级的安全属性评价机制加以治理。二是响应政策法规

对算法可控、可解释等能力的要求。当前国家已在《新一代

人工智能发展规划》《算法推荐管理规定》等政策文件中提

出对算法安全性、可解释性、透明性等提出明确要求，开展

算法内生安全属性评估是满足合规要求的重要路径。三是增

强公众与行业对人工智能技术的信任基础。通过构建可验证、

可量化的算法安全属性评价体系，有助于提升人工智能模型

的可理解性和可信度，缓解“黑箱算法”引发的安全担忧，

促进人工智能技术的可持续发展与广泛接受。

二、任务来源

2025年11月4日，中国网络空间安全协会正式下达

《人工智能安全算法安全属性评价规范》的立项通知，明确

由中国电子技术标准化研究院承办该团体标准的编制工作。

三、编制过程

（一）前期调研与需求分析阶段

编制组系统梳理国内外人工智能算法安全评估相关研

究成果和标准规范，重点研读机器学习算法安全评估、数据

安全、个人信息保护等领域标准与白皮书，调研典型行业（如

金融、互联网、工业、政务等）在算法安全管理中的实际需

求与痛点，形成算法安全风险与属性评价的总体需求分析。

（二）框架设计

2025年7月1日，在充分调研的基础上，编制组提出

“算法安全风险、安全属性、评价指标、测算方法”的总体

技术路线，初步确定本标准的章节结构，包括范围、术语与

定义、概述、人工智能算法安全风险、人工智能算法安全属

性、属性评估方法、指标测算方式及发布要求等内容。

（三）编制组内部研讨与专家讨论

在开展前期调研工作与框架设计完成的基础上，编制组

通过召开多轮编制组工作会议与一次专家研讨会，对安全属

性的边界划分、指标体系合理性、测算方法可操作性等关键

问题进行充分讨论：

1）20