《人工智能生成合成内容评估规范》.docxVIP

T/CECA-G××××—××××

GB/T××××—××××

2

团体标准

T/CFIS00XX—202X

T/CFIS00XX—202X

人工智能生成合成内容风险

评估规范

Specificationforriskassessmentofcontentgeneratedbyartificialintelligence

（征求意见稿）

202X-0X-XX发布202X-0X-XX实施中国网络社会组织联合会发布

中国网络社会组织联合会

发布

目次TOC\o1-1\u

引言 3

1范围 4

2规范性引用文件 4

3术语与定义 4

4.评估原则与框架 5

5风险评估等级 7

6评估对象及职责 10

7评估指标体系 11

8评估方法与评分机制 19

9评估工具和技术支持 22

附录A 24

附录B 27

附录C 29

参考文献 错误！未定义书签。

前言

本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》给出的规则起草。

本文件由中国网络社会组织联合会提出并归口。

本文件起草单位：

本文件主要起草人：

引言

随着人工智能技术的快速发展，人工智能生成合成内容已广泛应用于社会各领域，其在提升信息生产与传播效率的同时，也带来了内容安全、意识形态、伦理法律等多方面的风险挑战。为促进人工智能生成合成技术安全、可信、健康发展，规范相关服务提供者、技术支持者及传播平台的风险管理行为，特制定本《人工智能生成合成内容评估规范》。

人工智能合成生成内容评估规范

1范围

本标准适用于在中国境内提供、使用人工智能生成合成服务的各类主体，包括生成合成服务提供者、技术支持者、内容传播服务提供者开展的风险自评估、第三方评估及相关监管活动，覆盖模型训练、内容生成、标识标注、传播追溯等全流程。

2规范性引用文件

GB45438—2025网络安全技术人工智能生成合成内容标识方法

3术语与定义

下列术语和定义适用于本文件。

3.1

人工智能生成合成内容contentgeneratedbyartificialintelligence

人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。

[来源：《人工智能生成合成内容标识办法》第3条第1款，GB5438—2025,3.1]

3.2

生成合成内容服务提供者artificialintelligencecontentgenerationserviceprovider

利用人工智能技术(包括通过提供可编程接口等方式)向公众提供生成合成文本、图片、音频、视频、虚拟场景等服务的组织或个人。

[参考:《生成式人工智能服务暂行管理办法》第22条，GB5438—2025,3.7]

3.3

内容传播服务提供者internetinformationcontentpropagationserviceprovider

通过各类渠道或平台，向公众提供内容分发、展示等传播服务的组织或个人。

[参考:GB5438—2025,3.8]

3.4

合成服务技术支持者syntheticservicetechnicalsupporter

为生成合成内容服务提供者提供技术支持，