模块六:AI 供应链安全与 Data Poisoning 防御.docxVIP

  • 1
  • 0
  • 约9.35千字
  • 约 12页
  • 2026-05-28 发布于湖北
  • 举报

模块六:AI 供应链安全与 Data Poisoning 防御.docx

模块六:AI供应链安全与DataPoisoning防御

模块概述

2026年3月,攻击者利用泄露的凭据发布了恶意版本的Trivy——一款广泛使用的开源安全扫描工具。恶意代码在正常扫描逻辑之前运行,让每个受影响的CI/CD流水线看起来都“正常运行”,但实际上没有一个正常。这不是扫描器本身的问题,而是信任被劫持的问题——当你的流水线通过可变标签消费第三方依赖时,你就在赌那个标签的写入者永远不会被攻破。

这个事件完美诠释了AI供应链安全的核心挑战。你的AI系统不是一座孤岛——它依赖预训练模型(可能从HuggingFace下载)、训练数据(可能来自多个外部源)、第三方插件和工具(LangChain、LlamaIndex等框架)、部署基础设施(容器镜像、Kubernetes集群)。这个链条上的任何一个环节被攻破,攻击者就获得了通往你AI系统核心的钥匙。

本模块将带你深入这一前沿领域。你将学会审计一个AI系统的完整供应链,识别从模型到数据到工具的潜在风险;你将理解DataPoisoning的攻击面与检测方法;你将掌握AIBOM——AI物料清单——的构建和管理方法;你将获得一套可立即使用的第三方AI工具风险评估Checklist。

学习目标:

理解AI供应链的构成及其特有的安全风险

掌握模型供应链攻击的常见手法与防御策略

能够构建和

文档评论(0)

1亿VIP精品文档

相关文档