部署安全和弹性人工智能系统的最佳实践（中文版）.docx

联合网络安全信息

TLP：清除

安全部署人工智能系统

部署安全和弹性AI系统的最佳实践

执行摘要

安全地部署人工智能（AI）系统需要仔细的设置和配置，这取决于AI系统的复杂性、所需的资源（例如，资金，技术专长），以及所使用的基础设施（即，本地、云或混合）。本报告扩展了安全AI系统开发指南的“安全部署”和“安全操作和维护”部分，并纳入了与人工智能（AI）互动的缓解考虑因素。它适用于部署和操作由另一个实体设计和开发的AI系统的组织。最佳实践可能不适用于所有环境，因此缓解措施应适应特定的用例和威胁概况。[1]、[2]

AI安全是一个快速发展的研究领域。随着机构、行业和学术界发现人工智能技术的潜在弱点以及利用这些弱点的技术，组织除了将传统的IT最佳实践应用于人工智能系统之外，还需要更新其人工智能系统以应对不断变化的风险。

这份报告由美国国家安全局人工智能安全中心（AISC）、网络安全和基础设施安全局（CISA）、

联邦调查局（FBI）、澳大利亚信号局的澳大利亚网络安全中心（ACSC）、加拿大网络安全中心（CCCS）、新西兰国家网络安全中心（NCSC-NZ）和英国国家网络安全中心（NCSC-UK）。AISC和本报告的目标是：

1.提高AI系统的机密性、完整性和可用性;

2.确保人工智能系统中已知的网络安全漏洞得到适当缓解;

3.提供方法和控制措施，以保护、检测和响应针对AI系统及相关数据和服务的恶意活动。

本文档标记为TLP：CLEAR。收件人可以不受限制地分享此信息。信息受标准版权规则的约束。有关交通灯协议的更多信息，请参见/tlp/。

TLP：清除

U/OO/143395-24|浙ICP-1|2024年

部署AI系统Secret

TLP：清除

范围和受众

本报告中的术语AI系统是指基于机器学习（ML）的人工智能（AI）系统。

这些最佳实践最适用于在内部或私有云环境中部署和运营外部开发的AI系统的组织，特别是那些处于高威胁、高价值环境中的组织。它们不适用于那些自己没有部署AI系统，而是利用其他人部署的AI系统的组织。

并非所有的指导方针都直接适用于所有组织或环境。攻击的复杂程度和方法将取决于针对人工智能系统的对手，因此组织应该在考虑其用例和威胁概况的同时考虑指导。

请参阅安全AI系统开发指南，了解AI系统的设计和开发方面。[1]

介绍

人工智能功能的快速采用、部署和使用可以使它们成为恶意网络行为者的极有价值的目标。历史上曾使用敏感信息和知识产权的数据盗窃来促进其利益的行为者可能会寻求增选部署的人工智能系统并将其应用于恶意目的。

针对人工智能系统的恶意攻击者可能会使用人工智能系统特有的攻击媒介，以及针对传统IT的标准技术。由于攻击媒介种类繁多，防御需要多样化和全面。高级恶意行为者通常结合多个向量来执行更复杂的操作。这种组合可以更有效地穿透多层防御。

组织应考虑以下最佳实践，以保护部署环境，持续保护AI系统，并安全地操作和维护AI系统。

以下最佳实践与CISA和美国国家标准与技术研究所（NIST）制定的跨部门网络安全性能目标（CPG）保持一致。CPG提供了CISA和NIST建议所有组织实施的最低实践和保护。CISA和NIST的CPG基于

TLP：清除

U/OO/143395-24|浙ICP-1|2024年2

部署AI系统Secret

TLP：清除

现有的网络安全框架和指南，以防范最常见和最具影响力的威胁，战术，技术和程序。访问CISA的跨部门网络安全性能目标，了解有关CPG的更多信息，包括其他建议的基线保护。

保护部署环境

组织通常在现有的IT基础设施中部署A智能系统。在部署之前，它们应该确保IT环境应用了健全的安全原则，如健壮的治理、设计良好的体系结构和安全的配置。例如，确保负责人工智能系统网络安全的人是对组织的网络安全负责的同一人。

IT环境的安全最佳实践和要求也适用于AI系统。以下最佳实践对于应用于AI系统和组织部署它们的IT环境尤为重要。

管理部署环境治理

.如果IT之外的组织正在部署或运营AI系统，请与IT服务部门合作，确定部署环境并确认其符合组织的IT标准。

了解组织的风险水平，并确保AI系统及其使用在组织的整体风险承受能力范围内，以及托管AI系统的特定IT环境的风险承受能力范围内。评估并记录适用的威胁、潜在影响和风险接受度。[3]、[4]