大模型系统安全测评要求_编制说明.pdfVIP

标准资料

团体标准《大模型系统安全测评要求》编制说明

一、工作简况

1.1任务来源

根据中关村信息安全测评联盟2024年同意批准的《中关村信息安全测评联

盟团体标准制修订立项申请书》，公安部网络安全等级保护评估中心负责标准制

定项目《大模型系统安全测评要求》。

1.2主要起草单位和工作组成员

公安部第三研究所（公安部网络安全等级保护评估中心）主要负责起草，北

京百度网讯科技有限公司、蚂蚁科技集团股份有限公司、浙江大学、北京天融信

网络安全技术有限公司、启明星辰信息技术集团股份有限公司、快手科技有限公

司、上海商汤智能科技有限公司、北京远鉴信息技术有限公司、深圳市网安计算

机安全检测技术有限公司、山东新潮信息技术有限公司、金盾检测技术股份有限

公司、上海市信息安全测评认证中心、杭州中尔网络科技有限公司等单位共同参

与了该标准的起草工作。

1.3确定编制内容

标准编制组以网络安全测评工作实践为基础，以GB/T28448-2019《信息安

全技术网络安全等级保护测评要求》、GB/T42888-2023《信息安全技术机器

学习算法安全评估规范》为主要参考依据，规定了大模型系统通用安全和大模型

系统全生命周期安全的测评要求,完成《大模型系统安全测评要求》标准的编制

工作。包括：

（1）明确大模型系统对象；

（2）依据T/ISEAAXXX-XXXX《大模型系统安全保护要求》条款，针对大模

型系统这类特殊的测评对象给出各要求项的单元测评实施方法，明确测评中需要

特殊关注和注意的测评实施要点；

（3）给出测评结论判定方法。

1.4主要工作过程

1.4.1草案

2023年5月至2023年9月，标准编制组按照计划调研了国际和国内大模型安全

保护及安全测评情况，研究了安全保护要求相关内容，分析并总结了大模型安全

标准资料

测评的关注点和实施方法、测评可能带来的风险等；同时标准编制组调研了与该

标准相关的其他国家标准和行业标准。

2023年10月至2023年12月，标准编制组人员根据所参阅的文献、标准等资料

编写标准编制提纲，并在对提纲进行修改完善的基础上，开始具体的编制工作并

形成标准草案。

2023年12月至2024年1月标准编制组在不断的讨论和研究中完善内容，形成

了《大模型系统安全测评要求》征求意见稿。

二、标准编制原则和确定主要内容的论据及解决的主要问题

1.标准编制原则和目的

标准编制的基本原则是贯彻落实国务院《新一代人工智能发展规划》，全面

贯彻总体国家安全观，进一步推进网络安全保护工作的开展，进一步适应信息技

术的发展。基于上述原则并依据T/ISEAAXXX-XXXX《大模型系统安全保护要求》，

针对大模型系统提出安全测评要求。

当大模型系统可以通过人类最严格的考试、同时执行多种工作命令、具备一

定的推理规划能力、生成以假乱真的照片、模仿人类与人聊天不被发现时，其安

全问题也更为复杂棘手，传统安全考虑以及管理方法需要重新审视。在此背景下，

大模型系统是否安全、如何评估大模型系统安全成为全球焦点。

大模型系统安全除了网络安全基本属性，即大模型系统及其相关数据的保密

性、完整性、可用性以及系统对恶意攻击的抵御能力之外，大模型系统安全一般

还应考虑大模型的可靠性、透明性、可解释性、公平性、隐私性等多方面。目前

业界标准均以大模型安全测评为关注重点，尚无以大模型系统安全作为测评对象

的相关标准。因此本标准以大模型系统作为对象提出相应测评方法，涵盖大模型

安全以及大模型系统安全，以指导安全测评相关机构开展大模型系统安全测评。

2.标准编制技术路线

标准编制总体技术路线如下：

首先，本标准面向应用大模型技术的系统，主要从大模型系统通用安全和大

模型系统全生命周期安全的角度进行考虑并搭建标准总体架构。

其次，调研国内外大模型系统技术方案，研究提出符合实际需求的适用于大

模型系统的细化的测评实施方法，以便更好指导开展测评相关工作。

标准资料

再次，针对T/ISEAAXXX-XXXX《大模型系统安全保护要求》中各条款，提

出具体测评实施方法。

3.解决的主要问题