CSA：2024年AI组织责任：核心安全责任报告.docx

1

1

?2024云安全联盟大中华区版权所有2

“AI组织责任工作组”的永久的官方网址是

/research/working-groups/ai-organizational-responsibilities

?2024云安全联盟大中华区——保留所有权利。你可以在你的电脑上下载、储存、展示、查看及打印，或者访问云安全联盟大中华区官网(https://www.c-

)。须遵守以下:(a)本文只可作个人、信息获取、非商业用途;(b)本文内容不得篡改;(c)本文不得转发;(d)该商标、版权或其他声明不得删除。在遵循中华人民共和国著作权法相关条款情况下合理使用本文内容，使用时请注明引用于云安全联盟大中华区。

4

目录

目录 4

前言 7

致谢 8

介绍 9

AI共享责任模型 9

AI化应用程序中的关键层 10

人工智能平台 10

AI应用层 10

AI使用 11

以数据为中心的人工智能系统的基础组件 13

前提条件 18

目标受众 18

职责角色定义 19

管理与战略 19

治理与合规 20

技术和安全 21

运营与发展 21

规范性引用文件 22

一、将数据安全和隐私纳入人工智能训练 23

1.1数据真实性和许可管理 23

1.2匿名化和假名化 24

1.3数据最小化 26

1.4数据访问控制 27

1.5安全存储和传输 28

二、模型安全 29

5

2.1模型访问控制 29

2.1.1身份验证和授权框架 30

2.1.2模型接口速率限制 31

2.1.3模型生命周期管理中的访问控制 31

2.2安全的模型运行环境 33

2.2.1基于硬件的安全功能 33

2.2.2网络安全控制 34

2.2.3操作系统级强化和安全配置 35

2.2.4K8s与容器安全 36

2.2.5云环境安全 37

2.3漏洞和补丁管理 38

2.3.1机器学习代码完整性保护 38

2.3.2机器学习训练和部署代码的版本控制系统 39

2.3.3验证已批准版本的代码签名 41

2.3.4基础设施即代码方法 43

2.4MLOps流水线安全 44

2.4.1源代码漏洞扫描 44

2.4.2测试模型对攻击的鲁棒性 45

2.4.3验证每个阶段的流水线完整性 46

2.4.4监控自动化脚本 48

2.5AI模型治理 50

2.5.1模型风险评估 50

2.5.2业务审批程序 51

2.5.3模型监控要求 52

2.5.4新模型验证过程 53

2.6安全模型部署 54

2.6.1灰度发布 54

2.6.2蓝绿部署 55

6

2.6.3回滚功能 56

2.6.4报废模型 56

三、漏洞管理 57

3.1AI/ML资产盘点 57

3.2持续漏洞扫描 59

3.3风险的优先级 60

3.4补救跟踪 61

3.5异常处理 62

3.6报告指标 64

结论 66

缩略语 68

7

前言

本白皮书是一份工作草案，重点关注AI和机器学习系统开发和部署中在信息和网络安全方面的组织责任。本白皮书综合了在核心安全领域专家推荐的最佳实践，包括数据保护机制、模型漏洞管理、MLOps流水线强化以及负责任地训练和部署人工智能的治理政策。

白皮书中讨论的要点包括：

●数据安全和隐私保护：数据真实性、匿名化、假名化、数据最小化、访问控制以及安全存储和传输在人工智能训练中的重要性。

●模型安全：涵盖模型安全的各个方面，包括访问控制、安全运行环境、漏洞和补丁管理、MLOps流水线安全、AI模型治理和模型安全部署。

●漏洞管理：讨论AI/ML资产盘点的重要性、持续漏洞扫描、基于风险的优先级排序、补救跟踪、异常处理和有效管理漏洞的报告指标。

白皮书使用可量化的评估标准、责任、问责、咨询、RACI模型来分析每项责任，包括角色定义、高级实施策略、持续监控和报告机制、访问控制映射以及遵守基本框架。这些基于行业最佳实践和标准，如NISTAIRMF、NISTSSDF、NIST800-53、