LLM：WAF大模型安全防护-对外(1) conv.docxVIP

LLM-WAF：大模型安全防护

分享人：王军

终结AI业务四大致命伤

——算力滥用｜数据泄露｜API失控｜合规暴雷

基于大模型的生成式人工智能迎来大爆发

LLM已经融入企业核心应用，是业务创新发展的新动力。成为企业内新的IT基础设施。

大模型面临的安全风险OWASPLLMTop10

风险层

输入层

数据层

输出层

LLM治理

攻击类型

提示注入攻击（例如诱导模型越狱、以及ChatGPT不久前发生的“间接提示注入”攻击等）、API密钥劫持（Deepseek被广泛通过Ollama部署在本地导致API被暴露利用）、

多模态内容攻击、上下文语义攻击、过度代理风险等

训练数据投毒、虚假信息传播等

系统提示泄露、不当输出内容（恶意代码、色情反动等）、敏感信息泄露（例如OminGPT平台泄露3万个用户电子邮件、3400万用户对话记录等敏感信息）

模型盗窃与滥用（例如黑客GPT可以批量生成钓鱼工具）、DDos攻击、供应链漏洞风险、无边界的消费导致资源滥用等

全球各国针对大模型加速出台安全管理政策

l欧盟：颁布全球首部全面监管人工智能的法规《人工智能法案》，把AI应用的风险分为4类：不可接受风险、高风险、透明风险和最低风险，其中高风险部分，要求LLM服务商提供安全审计并承

担相应法律责任。

l新加坡：颁布相应的安全法规草案，对AI