G_T 42888-2023信息安全技术 机器学习算法安全评估规范.docx

信息安全技术

机器学习算法安全评估规范

Informationsecuritytechnology—

Assessmentspecificationforsecurityofmachinelearningalgorithms

2023-08-06发布

2024-03-01实施

I

GB/T42888—2023

目次

前言 Ⅲ

1范围 1

2规范性引用文件 l

3术语和定义 1

4概述 2

4.1安全原则 2

4.2安全要求分级 2

5机器学习算法技术安全要求和评估方法 2

5.1安全要求 2

5.2评估方法 5

6机器学习算法服务安全要求和评估方法 9

6.1安全要求 9

6.2评估方法 9

7机器学习算法安全评估流程 11

7.1流程要求 11

7.2评估准备 11

7.3评估方案 11

7.4评估执行 12

7.5评估结论 12

7.6评估报告 12

附录A(规范性)算法推荐服务安全要求 14

附录B(规范性)算法推荐服务评估方法 21

参考文献 29

1

GB/T42888—2023

信息安全技术

机器学习算法安全评估规范

1范围

本文件规定了机器学习算法技术和服务的安全要求和评估方法，以及机器学习算法安全评估流程。

本文件适用于指导机器学习算法提供者保障机器学习算法生存周期安全以及开展机器学习算法安

全评估，也可为监管评估提供参考。

2规范性引用文件

本文件没有规范性引用文件。

3术语和定义

下列术语和定义适用于本文件。

3.1

机器学习算法machinelearningalgorithm

功能单元通过学习新知识技能或整理已有知识技能以改进其性能的算法。

3.2

机器学习算法提供者machinelearningalgorithmprovider

利用机器学习算法实现特定功能的组织。

注：本文件中简称算法提供者，包括算法技术提供者和算法服务提供者。算法技术提供者是指算法技术的开发和

提供方，算法服务提供者是指使用应用算法技术的服务提供方。

3.3

算法推荐服务algorithmicrecommendationservice

互联网信息服务算法推荐internetinformationserviceofalgorithmicrecommendation

应用算法推荐技术提供信息的服务。

注1:应用算法推荐技术是指利用机器学习算法实现生成合成类、个性化推送类、排序精选类、检索过滤类、调度决

策类等算法技术，向用户提供信息的活动。

注2:本文件将生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法统称为五类算法。

3.4

算法生存周期algorithmlifecycle

机器学习算法从设计到退役的演进过程。

注1:算法生存周期包括设计开发、验证确认、部署运行、维护升级、退役下线。

注2:一般算法服务处于部署运行阶段。

2

GB/T42888—2023

3.5

健壮性robustness

机器学习算法在受到干扰或攻击等情况下维持其性能等水平的能力。

[来源：GB/T28457—2012,3.8,有修改]

3.6

准确率accuracy

对于给定的数据集，得到正确结果的样本数占总样本数的比率。

3.7

生成合成信息generativesyntheticinformation

利用虚拟现实、深度学习等技术对文本、图像、音频、视频、场景模型等进行生成或者编辑所得到的

信息。

4概述

4.1安全原则

机器学习算法安全原则：

a)公平合理：符合社会伦理道德，遵循社会公序良俗，维护我国社会群体间权利公平、机会公平、

过程公平和结果公平的状态；

b)公开可解释：工作原理具备一定的可解释性且向用户充分公开；

c)诚实可信：严格遵照设计、遵守承诺，不欺骗、不误导、不隐瞒，充分尊重服务对象和社会利益。

4.2安全要求分级

机器学习算法安全要求分为基本级与增强级：

a)基本级：对机器学习算法的基本安全要求；

b)增强级：当机器学习算法可能涉及影响国家安全、社会安定、公民生命财产安全等关键事项决

策时符合的增强安全要求，对应条款用粗体表示。

5机器学习算法技术安全要求和评估方法

5.1安全要求

5.1.1通用条款

对机器学习算法