大模型越狱、深度伪造、数据泄露合规事故复盘.pptx

大模型越狱、深度伪造、数据泄露合规事故复盘与警示教育主讲人：AI安全合规部|2026年7月

AI安全，警钟长鸣01技术狂飙：万亿引擎生成式AI以前所未有的速度渗透至经济毛细血管，大模型与具身智能不再是科幻概念。预计2028年全球市场规模将突破万亿美元，成为驱动数字经济增长的核心动力，彻底重塑产业格局与生活方式。02繁荣阴影：风险暗涌技术狂奔之下，大模型“越狱”、深度伪造泛滥、训练数据大规模泄露等安全事件频发。这些不仅侵蚀用户对AI的信任，更对社会稳定、国家安全构成实质性威胁，成为悬在企业头顶的达摩克利斯之剑。03合规新常态：监管落地全球监管体系加速构建，从“暂行办法”迈向常态化执法。中国《生成式人工智能服务管理暂行办法》等法规正式落地，合规不再是可选项，而是企业生存发展的必答题与生命线。“技术向善，安全先行。唯有构建坚实的安全防线，才能让AI真正赋能未来，实现可持续发展。”

本次课程目标：从事故中汲取教训01以案为鉴深度复盘大模型越狱、深度伪造、训练数据泄露三大典型事故，层层剖析背后的技术漏洞、管理缺失与法律责任，还原风险发生的真实轨迹。02明确红线聚焦技术、管理及决策层，厘清AI应用的法律边界与合规底线。明确“不可为”的行为准则，强化合规意识，杜绝侥幸心理，严守安全底线。03掌握方法构建可落地、可执行的长效风险防控方案，将安全意识融入产品研发、运营及决策的全流程