TC260-003生成式人工智能服务安全基本要求.pdf

TC260

全国网络安全标准化技术委员会技术文件

TC260-003

生成式人工智能服务安全基本要求

Basicsecurityrequirementsforgenerativeartificialintelligenceservice

2024-02-29发布

全国网络安全标准化技术委员会发布

目次

前言II

1范围1

2规范性引用文件1

3术语和定义1

4总则1

5语料安全要求2

5.1语料来源安全要求2

5.2语料内容安全要求2

5.3语料标注安全要求3

6模型安全要求3

7安全措施要求4

8其他要求5

8.1关键词库5

8.2生成内容测试题库5

8.3拒答测试题库6

8.4分类模型6

9安全评估要求6

9.1评估方法6

9.2语料安全评估7

9.3生成内容安全评估7

9.4问题拒答评估7

附录A语料及生成内容的主要安全风险8

参考文献10

I

前言

本文件由全国网络安全标准化技术委员会（SAC/TC260）发布。

本文件起草单位：中国电子技术标准化研究院、国家计算机网络应急技术处理协调中心、

北京中关村实验室、浙江大学、上海人工智能实验室、北京邮电大学、北京百度网讯科技有

限公司、北京百川智能科技有限公司、复旦大学、阿里云计算有限公司、上海稀宇科技有限

公司、上海商汤智能科技有限公司、科大讯飞股份有限公司、上海燧原科技有限公司、北京

智谱华章科技有限公司、中国政法大学、北京深言科技有限责任公司、北京理工大学、上海

交通大学、清华大学、中国科学院软件研究所、中国科学院信息工程研究所、北京航空航天

大学、北京天融信网络安全技术有限公司、华为云计算技术有限公司、蚂蚁科技集团股份有

限公司、贝壳找房（北京）科技有限公司、中国网络安全审查认证和市场监管大数据中心、

公安部第三研究所、国家信息中心、国家计算机网络与信息安全管理中心北京分中心、广州

市动悦信息技术有限公司、中国移动通信集团有限公司、杭州云麓知道科技有限公司、中国

联合网络通信有限公司。

本文件主要起草人：姚相振、上官晓丽、郝春亮、张震、徐恪、任奎、杨珉、陈洋、秦

湛、谭知行、张妍婷、王志波、周琳娜、杨忠良、成瑾、包沉浮、张凌寒、孙彦新、彭韬、

邱锡鹏、蒋慧、何延哲、杨光、赵芸伟、洪延青、王士进、郭建领、徐浩、彭骏涛、梅敬青、

霍启超、许晓耕、王姣、王凤娇、张谧、张沅、张立武、王蕊、贾开、赵静、石琳、张严、

薛智慧、何永春、林冠辰、王雨晨、郑子木、张雨桐、杨雨晨、徐晖宇、王笑尘、赵睿斌、

江为强、丁治国、刘楠、刘晰尧、康永萌、曹东欧、吴年京、陶冶。

II

生成式人工智能服务安全基本要求

1范围

本文件规定了生成式人工智能服务在安全方面的基本要求，包括语料安全、模型安全、

安全措施等，并给出了安全评估要求。

本文件适用于服务提供者开展安全评估、提高安全水平，也可为相关主管部门评判生成

式人工智能服务安全水平提供参考。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期

的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括

所有的修改单）适用于本文件。

GB/T25069—2022信息安全技术术语

3术语和定义

GB/T25069—2022