网络安全技术 生成式人工智能数据标注安全规范.pdfVIP

网络安全技术

生成式人工智能数据标注安全规范

1范围

本标准规定了生成式人工智能训练的数据标注基础安全要求、数据标注规则安全要求、标注人员

要求、数据标注核验要求和标注安全测试方法。

本标准适用于生成式人工智能数据标注方开展训练数据标注活动，也可为生成式人工智能数据需

求方对于数据标注进行检查、验收或第三方机构对数据标注进行安全性评估提供参考。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文

件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适

用于本文件。

GB/T42755-2023人工智能面向机器学习的数据标注规程

3术语和定义

下列术语和定义适用于本文件。

3.1

提示信息prompt

引导生成式人工智能模型完成特定任务并提供合理输出内容的输入信息。

3.2

响应信息response

在生成式人工智能数据标注中，按照提示信息要求形成的符合人类认知的应答信息，用于训练模

型形成对提示信息输出相应内容、模式或风格的响应的能力。

3.3

生成式人工智能数据