（13页PPT）LLMWAF大模型安全防护.pptxVIP

LLM-WAF：大模型安全防护分享人：终结AI业务四大致命伤——算力滥用｜数据｜API失控｜合规暴雷

基于大模型的生成式人工智能迎来大爆发LLM已经融入企业核心应用，是业务创新发展的新动力。成为企业内新的IT基础设施。

大模型面临的安全风险OWASPLLMTop10风险层输入层攻击类型提示注入攻击（例如诱导模型越狱、以及ChatGPT不久前发生的“间接提示注入”攻击API密钥劫持（Deepseek被广泛通过Ollama部署在本地导致API被暴露利用）、等）、多模态内容攻击、上下文语义攻击、过度代理风险等训练数据投毒、虚假信息传播等数据层输出层系统提示、不当输出内容（恶意代码、色情反动等）、敏感信息（例如OminGPT平台3万个用户电子邮件、3400万用户对话记录等敏感信息）LLM治GPTDDos模型盗窃与滥用（例如黑客可以批量生成钓鱼工具）、攻击、供应链漏洞风理险、无边界的消费导致资源滥用等

全球各国针对大模型加速出台安全管理政策l欧盟：颁布全球首部全面监管人工智能的法规《人工智能法案》，把AI应用的风险分为4类：不可接受风险、高风险、透明风险和最低风险，其中高风险部分，要求LLM服务商提供安全审计并承担相应法律责任。l新加坡：颁布相应的安全法规草案，对AI系统的安全提出监管和要求，例如《AI系统安全指南》。l美国：美国联邦、美国各某省市均出台了包含《AI权利法案蓝图》《AI风险管理框架》等一系列AI监管法律或法案l日本：AI治理框架，注重人机协作场景，推动AI伦理发展。l12国：《安全、创新和包容的AI首尔宣言》。

我国针对大模型安全管理政策科学务实、划定底线、明确责任“提供深度合成服务，应当遵守法律法规，尊重社会公德和伦理道德，坚持正确政治方向、舆论导向、价值取向，促进深度合成服务向上向善。具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。深度合成服务技术支持者应当参照前款规定履行备案和变更、注销备案手续。”《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《生成式人工智能服务安全基本要求》

LLM-WAF大模型安全防护?LLM-WAF为专为大语言模型设计的智能安全防护网关，提供多模型、多场景、高并发环境下的全链路防护能力?支持实时检测并拦截针对大模型的算力滥用、提示词攻击及数据风险，助力企业构建可信、稳定、可持续的大模型服务生态。LLM-WAF大模型安全防护平台请求风险请求大模型业务安全防护大模型生成内容安全过滤用户提问内容API越权注入攻击算力消耗内容安全提示词攻击数据BOT攻击大模型服务源站企业用户平台消耗拦截不当内容DeepseekWAF+大模型安全引擎提示词攻击正常返回风险混元大模型模型返回内容多模型接入安全策略内容策略自定义敏感库APPWebQwen2.5小程序正常返回数据分级分类引擎：身份证、手机号、社保卡、护照号、银行卡等混元内容安全大模型：社会、政治、色情、违法、其他不当内容不当内容数据提示词泄露阶跃星辰

算力消耗防护脚本爬虫动态验证人机挑战大模型服务CVMGPU恶意用户大模型算力服务恶意Token消耗请求超限思维链攻击自动化WebDriver1、基于请求频次和Token消耗量，检测算力消耗行为2、检测真人真机，拒绝伪装设备访问，拒绝自动化访问

提示词注入内容安全防护提示词注入（意图识别引擎）不当信息检测（腾讯自研内容安全大模型）用户大模型提示词、企业关键词敏感信息检测（数据安全分类分级引擎）?提示词注入：针对中英文预料增强训练，识别角色扮演等越狱指令和常见提示注入攻击行为?不当信息：政治、色情内容识别?敏感信息：身份证号、手机号、家庭住址等33类《个保法》明确的敏感信息内容?自定义敏感信息：支持配置自定义关键词，可配置提示词或者企业关键信息?支持自定义拦截提示：针对不同策略、风险等级配置不同提示内容

业务防护-BOT管理ClientBysinessLogicAnalysisAI评估SourcereputationRequestreputationClientValidationStatisticalAnalysisActivity通过大数据及BOT攻防实验Analysis前端动态对抗威胁情报6亿IP画像,99%国内覆盖，室的安全技术运营，形成针对当前域名的AI检出模型，基础信誉数据后端智能分析并根据网站流量，自动进化每日更新情报库；8亿/天查询能力50+多维度分类标签精准判别IP是否恶意、风险严重级别、可信度级别。全链路检测体系升级BOT检出能力，自动析3亿/天调用能力；出AI评估中出现异常指标的访问请求。识防会