（14页PPT）大模型安全风险治理与未来防护之道.pptxVIP

大模型安全风险治理与防护分享人：demonbinli2025年6月13日

AI技术带来新的生产驱动力，企业数字化进入“大模型时代”Deepseek-R1QWEN-2.5NLP神经网络2013ResNet2015AlexNet2012GPT-4AlphaGo战胜2016联邦学习2016Transformer2017ChatGPTGPT3深度学习2006图神经网络2005AlphaFold2BP算法1986条件随机场2001BERT2018语义网络线路图1998深蓝击败卡斯帕罗1995XCON1980算力瓶颈1990支持向量1995专家系统1968计算机视觉1976AI进入“大模型”时代知识表征1974感知机1957达特茅斯会议1956AI超越图灵测试的人工智能标准，使机器开始像“人”一样与用户交流。以大模型生成技术为核心的人工智能正在成为下一轮经济增长的关键动力，也为解决产业痛点带来了全新的思路。

大模型企业应用十大常见安全风险010607080910样本投毒（数据污染）自建模型平台暴露面过大训练数据隐私02恶意利用（Prompt注入攻击）03代码辅助工具数据（第三方代码辅助工具）模型推理劫持（对抗样本攻击）AI伦理与偏见放大04第三方代码依赖风险（开源模型/库污染）05自动化Agent权限滥用开源模型滥用（深度伪造与辅助犯罪）

人工智能与大模型的风险组成结构大模型应用的安全风险结构大模型应用安全?敏感信息风险：越狱攻击输出受控内容；?应用开发安全风险：编码规范、风险开源组件；?应用服务风险：api攻击，web服务攻击、ddos攻击；?业务安全风险：批量注册、恶意引导、内容爬取；大模型运行环境安全?开发框架风险：框架漏洞(包含组件漏洞)；?开放数据集及训练工具风险；?污染的开放数据集风险；大模型本体内生安全训练推理部署?数据的风险(私有数据集、模型文件、个人隐私)；?供应链安全风险：木、组件漏洞；?越狱风险；?prompt指令数据泄漏；大模型基础设施安全?基础设施自身的安全性：操作漏洞风险、计算资源漏洞风险权限设置不当风险；?基础设施的运维安全性：误操作、违规操作；

大模型风险评估与控制

安全治理：腾讯大模型安全治理框架满足监管要求，提供安全、可控、可靠的服务大模型安全治理框架安全运营安全基准Redteaming测试工具及平台风险监测及响应大模型安全标准安全基准策略数数模型应用模型推理及部署模型训练数据采集安全供应应用安全API安全据据存储安全样本对抗向量数据库安全模型安全数据安全使用安全输入输出内容安全训练过程安全链安全安全管控计算环境安全运行环境安全GPU芯片安全部署环境安全安全运维网络安全身份安全开发安全访问与身份安全标准体系监管要求

大模型安全防护整体架构围绕大模型的生命，根据不同阶段的风险制定对应安全防护措施和策略腾讯大模型安全防护方案重点1：边界API与用户输入输出安全业务阶段安全风险模型训练推理部署应用训练数据训练代码模型架构模型参数模型输入安全模型输出安全可用性风险应用攻击风险重点5：安全合规风险提示注入风险数据投毒风险黄色、暴力、涉恐等违法违规内容个人隐私DDoS攻击造成服务中断、性能下降API越权访问风险API命令注入攻击敏感数据基础服智能体与MCP身份和特权防护横向某著名企业风险洞入侵风险鱼攻击风险弱密码风险大模型滥用风险重点2：模型基础设施安全防护和态势管理未授权访问风险安全隔离专区敏感数据防/防删除数据独立主机操作Prompt安全检测DDoS攻击防护API安全防护内容安全过滤重点4：数据安全全流程安全治理重点3：智能体规划与意图安全管控安全防护核心技术主机安全防护代码安全扫描Web漏洞扫描数据库访问控制模型引擎数据加密防篡改密码学技术内外部安全众测图计算分析蓝军攻防演练大模型威胁情报机器学习敏感数据识别主机/容器安全攻防对抗

边界与API安全：腾讯LLM-WAF大模型智能安全防护网关LLM-WAF为专为大语言模型设计的智能安全防护网关，提供多模型、多场景、高并发环境下的全链路防护能力支持实时检测并拦截针对大模型的算力滥用、提示词攻击及数据风险，助力企业构建可信、稳定、可持续的大模型服务生态。LLM-WAF大模型安全防护平台请求风险请求大模型业务安全防护大模型生成内容安全过滤用户提问内容注入攻击BOT攻击API越权算力消耗内容安全提示词攻击数据大模型服务源站企业用户平台消耗拦截不当内容提示词攻击Deepseek混元大模型Qwen2.5阶跃星辰WAF+大模型安全引擎正常返回风险模型返回内容多模型接入安全策略