降低人工智能风险：关键基础设施所有者和运营商的安全保障指南（中文版）.docx

降低人工智能（AI）风险：

关键基础设施所有者和运营商的安全保障指南

出版：2024年4月国土安全部

2

执行摘要 4

介绍 5

人工智能对关键基础设施构成的风险 7

人工智能的使用和采用模式 7

跨行业人工智能风险类别 9

针对关键基础设施所有者和运营商的指导方针 10

治理：建立人工智能风险管理的组织文化 11

地图：了解您个人人工智能使用背景和风险概况 11

措施：开发评估、分析和跟踪人工智能风险的系统 12

管理：对人工智能的安全风险进行优先排序和行动 13

结论 15

附录a：跨部门的人工智能风险和缓解战略 16

风险类别：使用人工智能进行的攻击 16

风险类别：对人工智能的攻击 17

风险类别：人工智能设计和实施失败 19

对人工智能风险的一般缓解 20

附录b：映射到NISTAIRMF的指南 22

统治 22

地图 23

度量 25

管理 27

3

免责声明：本文件不打算以任何方式约束公众，只是为了向公众提供清晰度。本文件不打算也不打算对美国、其部门、机构、其他实体、其官员或雇员或任何其他人创造任何在法律上或衡平法上可强制执行的实质性或程序性权利或利益。

4

执行摘要

美国。S.美国国土安全部（DHS）的任务是执行第14110号行政命令：安全、可靠和值得信赖的开发和使用人工智能1为关键基础设施所有者和运营商的使用制定安全和安全指南。国土安全部与商务部、部门风险管理机构（部门风险管理部门）的16个关键基础设施部门以及相关的独立监管机构协调制定了这些指导方针。

该指南从网络安全和基础设施安全局（CISA）的跨部门分析开始，在2024年1月，srma和相关独立监管机构完成了针对特定部门的人工智能风险评估。2CISA分析包括跨部门人工智能使用案例和采用的模式，并建立了三种不同类型的跨部门人工智能风险的基础分析：1)使用人工智能的攻击，2)针对人工智能系统的攻击，3)人工智能设计和实现的失败。国土安全部利用了这一分析,以及来自美国现有数据的分析。政府政策,制定具体的安全和安全指导方针,以减轻已确定的跨部门人工智能对关键基础设施的风险。该指南纳入了美国国家标准与技术研究所（NIST）的人工智能风险管理框架（AIRMF），包括其四个帮助组织解决人工智能系统风险的功能：管理、地图、测量和管理。3

虽然本文件中的指导方针编写范围广泛，适用于关键基础设施部门，但国土安全部鼓励关键基础设施的所有者和运营商考虑特定行业和特定环境的人工智能风险和缓解措施。

1第14110号行政命令第4.3条(a)（iii）：人工智能的安全、安全和可靠的发展和使用指导国土安全部如下：“在本命令发布之日起180天内，国土安全部长与商务部长和国土安全部长决定的其他监管机构协调，应酌情将AI风险管理框架、NISTAI100-1以及其他适当的安全指导纳入相关的安全和安全指南，供关键基础设施所有者和运营商使用。”

2特定部门的风险评估是根据第14110号行政命令第4.3(a)(i)条制定的，该命令指示中小企业和独立监管机构每年评估与在关键基础设施中使用人

工智能相关的风险。

3NIST人工智能风险管理框架（AIRMF1.0）。请参阅：NIST人工智能风险经营框架。

5

介绍

而人工智能4（AI）有潜力为美国提供变革性的解决方案。关键的基础设施，人工智能系统的引入5进入关键基础设施6有可能使这些系统更容易受到严重故障、物理攻击和网络攻击。与此同时，人工智能技术也为对手扩大和加强对美国的攻击提供了新的途径。系统对于关键基础设施的所有者和运营商来说，降低人工智能风险不仅是一种操作需求，而且是国家安全和公共安全的当务必行。

为了回应第14110号行政命令：安全、安全和可靠的开发和使用人工智能部分第4.3(a)（iii），美国。美国国土安全

部（DHS）制定了这些指南，供关键的基础设施所有者和运营商使用。该指南主要针对跨部门的人工智能风险:7

响了关键基础设施系统及其功能的安全性和安全性。国土安全部与美国商务部、部门风险管理机构（SRMAs）、8以及其他关键的基础设施部门监管机构。

利用网络安全和基础设施安全局（CISA）作为关键基础设施安全和弹性的国家协调员的专业知识，国土安全部从srma和相关独立监管机构于2024年1月完成的特定部门人工智能风险评估的跨部门分析中获得的见解开始。国土安全部还从其他资源中获得了见解，包括安全人工智能系统开发指南