TGDCSA-人工智能应用安全监测与应急响应规范编制说明.pdfVIP

团体标准《人工智能应用安全监测与应急响应

规范》编制说明

一、工作简况

1.1任务来源

《人工智能应用安全监测与应急响应规范》由北京网络空间安全

协会和广东省网络空间安全协会归口。

1.2主要起草单位和工作组成员

本标准由广东新兴国家网络安全与信息化发展研究院牵头，广州

市农业农村科学院、中国电信集团有限公司、广东关键信息基础设施

保护中心、广州华南检验检测中心有限公司、网安联认证中心有限公

司、国源天顺科技产业集团有限公司等多家单位共同参与编制。

1.3主要工作过程

（1）2025年7月，标准正式立项，协会组织参与本标准编写的

人员启动项目，成立规范编制组，确立各自分工，对标准进行调研，

听取各单位的相关意见；

（2）2025年8月-10月，编制组召开组内研讨会并结合充分的

调研结果，参考各类国家标准和相关政策文件，形成标准草案第一稿；

结合各参编单位的反馈意见，修改形成标准草案第二稿；

（3）2025年11月，编制组召开组内研讨会，基于前期成果，经

多次内部讨论研究，组织完善草案内容，形成征求意见稿。

二、标准编制原则和标准编制详细说明及解决的主要问题

1/6

2.1编制原则

本标准的研究与编制工作遵循以下原则：

（1）符合性原则

本标准使用时能够与法律法规和国家强制性标准的要求保持一

致，符合国家相关主管部门的要求。

（2）实用性原则

本标准规范是对实际工作成果的总结与提升，保持整体结果合理

且维持原意和功能不变的同时，针对用户群体，做到可操作、可用与

实用。

2.2文档结构

《人工智能应用安全监测与应急响应规范》标准文档分为前言、

范围、规范性引用文件、术语和定义、基本要求、安全监测、应急响

应、应急演练、监督与持续改进等部分内容。

2.3整体格式

整体格式根据GB/T1.1-2020《标准化工作导则第1部分：标

准化文件的结构和起草规则》的相关要求，对本标准的各要素进行编

写和排版。

在标准内容汇总及整个各方意见过程中，对各编写组成员提交部

分，根据GB/T1.1-2020的编写要求进行了必要的增删改，以确保符

合一致性、协调性、易用性等文件的表述原则及相关规定。

2.4标准名称英文翻译

标准的名称“人工智能应用安全监测与应急响应规范”翻译为

2/6

Specificationforsafetymonitoringandemergencyresponse

ofartificialintelligenceapplications。

2.5术语和定义

术语和定义中所列的术语的英文翻译，如有类似术语的标准，参

考了其翻译，没有类似术语标准翻译的，通过百度翻译和谷歌翻译后

进行对比，并参考网络相关翻译后进行确定。

2.6基本要求

本章主要介绍了人工智能应用安全保障应遵循的基础性要求。内

容涵盖了创新的人工智能应用安全风险分类（数据、模型、算法与应

用三大类）、与GB/T22080对标的安全管理体系、权责清晰的网络

安全三级联络员（监测岗、分析处置岗、指挥决策岗）机制，并引入

“安全左移”理念，对开发阶段的训练数据安全和安全开发与训练提

出了明确要求。

2.7安全监测

本章主要介绍了覆盖人工智能应用全生命周期的安全监测内容。

针对人工智能应用特有风险，提出了一系列可量化的关键指标，如训

练数据污染率、对抗性样本攻击尝试次数等。本章的突出特点是为每

个指标都明确了具体的监测位置、监测方法和计算方法，增强了标准

的可操作性和落地性。

2.8应急响应

本章主要介绍了人工智能应用安全事件的应急响应机制。其创新

之处在于对标国家通用分级框架的基础上，增加了“性质与危害”维

3/6

度，将模型后门、算法偏见引发社会危机等人工智能应用特有高危场

景纳入分级依据。此外，本章还详细规定了报告时限、应急响应处置

流程（包括针