360集团应用安全和基础安全建设实践.pdfVIP

大模型安全新视界：360集团应用安

全和基础安全建设实践

吴乾豪-360集团信息安全中心

目录

•大模型安全风险概览

•大模型原生安全介绍

•大模型基础设施安全介绍

•大模型应用安全介绍

•大模型安全小结

大模型安全风险概览

大模型是智能化的新质生产力

大模型是生产力革命，将引领新一轮工业革命

大模型引发的新一轮工业革命正在美国发生大模型是“新质生产力”

1.大模型会席卷每个行业，不是摧毁各个行业，

1.美国产业界正在Allin大模型而是重塑每个行业

•投资界非AI不投•每个人都要思考自己的行业会被怎么改

变

•创业创新都以AI为核心

•每个业务都值得用大模型重做一遍

•买GPU卡就像军备竞赛

2.美国人希望依靠这次人工智能革命，实现美2.大模型是创业者最好的机会：把原来老业务、

国的产业升级，以解决美国积累的诸多问题老赛道用大模型重做一遍，机会很多

每个行业都值得用大模型重构一遍

大模型各生命周期面临的风险

大模型数据处理大模型训练部署大模型应用落地

数据泄露数据投毒数据泄露模型篡改应用漏洞提示注入

数据错误数据偏见组件漏洞硬件漏洞模型滥用内容安全

数据侵权平台漏洞供应链投毒安全合规模型幻觉

大模型基础设施

主机漏洞组件漏洞网络攻击APT攻击内部泄露

要在不同层面分别应对大模型安全问题

大模型原生安全大模型基础安全大模型应用安全

生成内容风险基础安全风险应用安全风险

•内容违规•系统漏洞•SQL注入攻击

•虚假内容•主机攻击•越权漏洞

•幻觉问题•网络攻击•代码执行漏洞

训练数据风险•社工钓鱼•移动端漏洞

•勒索病毒•IOT端漏洞

•数据泄露•内鬼泄密•