REAL_智能体统一风险矩阵与自动化红队实践_v3_final.pdfVIP

REAL智能体统一风险矩阵

与自动化红队实践

当AIAgent出了事，怎么分类、怎么测、怎么治

演讲人：阿里AI红队负责人–宋奇钊(胖錿)

AiConInfoQ极客传媒

全球人工智能开发与应用大会

阿里AI红队：智能体安全前沿风险研究

阿里巴巴人工智能治理与可持续发展研究中心（AAIG）是阿里巴巴集团旗下AI顶级研发团队，致力于利用AI技术解决安全风险问题。

团队在顶级会议和期刊发表论文100+篇，专利授权60余项。产品涵盖内容安全、业务风控、网络安全、数据安全与算法安全等多个领域，为全

球千万商家和十亿消费者提供安全保障。

AI红队是AAIG专攻AI安全攻防的核心团队，国内最早系统性开展智能体安全研究的组织之一。团队在主流AI产品中持续发现重大安全漏

洞，成果发表于多个权威安全与AI顶会，并深度参与国家AI安全标准制定与监管合作。当前聚焦前沿AI安全研究，攻坚覆盖云端Agent、端侧

Agent、AI眼镜及智能硬件等全形态智能体攻击面挖掘与纵深防御。

100+60+深度参与