《人工智能安全 算法安全属性评价规范编制说明》.docx

《人工智能安全算法安全属性评价规范》

编制说明

目的意义

随着人工智能技术在金融、电信、工业互联网、智慧城市等领域的广泛应用，算法失效、对抗攻击、后门植入、数据投毒、隐私泄露、偏见歧视等安全问题日益凸显，亟需建立统一的算法安全属性评价方法，为算法安全设计、测评认证和监管提供可量化、可比对的技术依据。

该标准的研制主要包含三点目的。一是提升人工智能算法本体的安全能力。通过对人工智能算法的内生安全属性开展系统性评价，识别算法在可解释性、鲁棒性、可控性等方面的薄弱环节，有助于研发阶段提前发现潜在安全隐患，提升模型本身的稳健性与可靠性。二是支撑人工智能算法的风险管理与安全准入。通过构建规范化