大模型时代下的安全挑战及应对 腾讯大模型安全解决方案.pdfVIP

腾讯集团安全腾讯云安全

腾讯⼤模型安全解决⽅案

王璐腾讯云安全⾼级解决⽅案专家

-1-

⼤模型安全相关法规、标准逐步完善，安全要求不断提⾼

2024年腾讯参加AI⼤模型专项实⽹演练（唯⼆未失分）及沙盘推演（胜⽅并荣获最佳辩⼿）

2025年近200家已备案⼤模型企业均须参加国家攻防演练

政

策《互联⽹信息服务算法推荐管理《互联⽹信息服务深度合成管理《⽣成式⼈⼯智能服务管理暂⾏

法规定》—备案、安全评估规定》—备案、安全评估办法》—备案、安全评估

规2021.12⽹信办⼯信部公安部2022.12⽹信办⼯信部公安部2023.7⽹信办发改委等

2021202220232024

标

准

规

范2023.8TC260-PG-20233A《⽹络2023.8GB/T42888-2023《信息2024.2TC260-003《⽣成式⼈⼯智

安全标准实践指南-⽣成式⼈⼯智能安全技术机器学习算法安全评估规能服务安全基本要求》—语料安全，

服务内容标识⽅法》范》安全评估要求等

-2-

⼤模型攻防沙盘推演

1.瞒天过海：植⼊后门、暗疾深藏

2.偷梁换柱：数据投毒和污染

3.釜底抽薪：算⼒锁定、智⼒衰退

-3-

⼤模型+安全概览

⼤模型+安全

⼤模型本体安全⼤模型应⽤安全

⼤模型赋能安全

（⾃建本地⼤模型）（使⽤⼤模型）

PromptLLM赋能LLM赋能安

通⽤漏洞内容安全数据泄露数据隐私资源滥⽤

注⼊DevSecOps全运营

-4-