基于大模型与智能体安的全风险治理与防护方案19页.pptxVIP

大模型和智能体

安全风险治理与防护;

NLP神经网络2013GPT-4

QWEN-3

ResNet2015

Gemini混元

AlphaGo

联邦学习2016

Transformer2017eoCgatGPT

BERT2018;;

大模型应用的安全风险结构

大模型应用安全

?敏感信息泄露风险：越狱攻击输出受控内容；

?应用开发安全风险：编码规范、风险开源组件；

?应用服务风险：api攻击，web服务攻击、ddos攻击；

?业务安全风险：批量注册、恶意引导、内容爬取；

大模型运行环境安全

?开发框架风险：框架漏洞(包含组件漏洞)；

?开放数据集及训练工具风险；

?污染的开放数据集风险；

大模型本体内生安全;

大模型越狱攻击方法和威胁模型;;;

大模型风险评估与控制方法框架;

安全治理：腾讯大模型安全治理框架

满足监管要求，提供安全、可控、可靠的服务;

大模型安全防护整体架构

围绕大模型的生命周期，根据不同阶段的风险制定对应安全防护措施和策略;;;

统一身份缺失导致安全缺口