TCSAS-人工智能算法安全评估规范编制说明.pdf

人工智算法安全评估规范

编制说明

标准起草工作组

2025年4月

目录

1必要性1

2工作简述1

2.1任务来源1

2.2起草单位1

2.3起草过程1

3标准编制原则和主要内容1

3.1编制原则1

3.2主要内容2

4技术论证与效果2

5对标情况2

6标准实施建议3

7需要说明的主要问题3

8其他说明事项3

1必要性

本标准在于构建一套系统化、标准化的人工智能算法安全评估框架，以确保人工智能技

术的安全性、可靠性和可控性，从而在广泛的应用领域中推动其健康、有序发展。本标准为

算法开发者和应用者提供了一套清晰的技术标准和评估方法，确保在算法设计、训练和部署

过程中能够充分考虑安全性、透明性和可解释性，从而有效减少算法偏见和安全漏洞的风险。

其次，本标准有助于规范人工智能算法的开发流程，推动行业在算法安全性方面的协同创新，

建立起健全的算法治理机制，为社会提供更可靠、更安全的人工智能应用。再次，本标准通

过建立统一的评估标准，将有效促进人工智能技术的广泛应用，推动数字经济的高质量发展，

提升产业的智能化水平，激发经济发展的新动能。

2工作简述

2.1任务来源

本标准根据四川省网络空间安全协会数据安全团体标准制修订计划立项，由四川省网络

空间安全协会归口，由中国电子科技集团公司第三十研究所牵头组织编制。

2.2起草单位

本标准牵头起草单位：中国电子科技集团公司第三十研究所；

本标准参加起草单位：中国电子科技网络信息安全有限公司、成都四方数安信息技术有

限公司、全域数据信息安全重点联合实验室西南实验室。

2.3起草过程

2024年8月，中国电子科技集团公司第三十研究所向四川省网络空间安全协会提交《人

工智能算法安全评估规范》团体标准项目建议书；

2024年12月，由四川省网络空间安全协会邀请专家对《人工智能算法安全评估规范》立

项评审，标准立项，成立标准起草工作组；

2025年3月，完成了团体标准《人工智能算法安全评估规范》草案稿编写；

2025年4月，专家对意见修改稿进行了评审，团体标准《人工智能算法安全评估规范》

文本质量达到征求意见稿发布要求。

3标准编制原则和主要内容

3.1编制原则

本标准的制定工作遵循合规性的原则。

在标准制订过程中，严格遵循国家已颁布的相关法律法规，如《网络安全法》、《数

据安全法》和《个人信息保护法》，并与相关国家标准《GB/T41867-2022信息技术人工智

能术语》、《GB/T42888-2023信息安全技术机器学习算法安全评估规范》和《GB/T

45225-2025人工智能深度学习算法评估》等保持一致。

—1—

3.2主要内容

本标准共分为8章，包括范围、规范性引用文件、术语和定义、概述、对抗攻击测试方

法、判别式人工智能算法安全评估要求和评估方法、生成式人工智能算法安全评估要求和评

估方法、人工智能算法安全评估实施。

1．范围

2．规范性引用文件

3．术语和定义

4．概述

5．对抗攻击测试方法

6．判别式人工智能算法安全评估要求和评估方法

7．生成式人工智能算法安全评估要求和评估方法

8．人工智能算法安全评估实施

4技术论证与效果

在评估规范的制定过程中，广泛参考了《GB/T41867-2022信息技术人工智能术语》、

《GB/T42888-2023信息安全技术机器学习算法安全评估规范》和《GB/T45225-2025人工

智能深度学习算法评估》等相关国家标准，确保本标准与现行的相关国家标准保持一致，避

免冲突。

本标准为人工智能算法安全的规范化管理提供了重要依据，有助于增强人工智能算法在

各个环节的安全性和合规性，进一步推动人工智能算法安全体系的建设。本标准通过系统性、

可操作性的