信息安全资料LLM：WAF大模型安全防护-对外.pdfVIP

LLM-WAF：

大模型安全防护

分享人：王军

终结AI业务四大致命伤

——算力滥用｜数据泄露｜API失控｜合规暴雷

基于大模型的生成式人工智能迎来大爆发

LLM已经融入企业核心应用，是业务创新发展的新动力。

成为企业内新的IT基础设施。

大模型面临的安全风险

OWASPLLMTop10

风险层攻击类型

提示注入攻击（例如诱导模型越狱、以及ChatGPT不久前发生的“间接提示注入”攻击

输入层等）、API密钥劫持（Deepseek被广泛通过Ollama部署在本地导致API被暴露利用）、

多模态内容攻击、上下文语义攻击、过度代理风险等

训练数据投毒、虚假信息传播等

数据层

系统提示泄露、不当输出内容（恶意代码、色情反动等）、敏感信息泄露（例如

输出层

OminGPT平台泄露3万个用户电子邮件、3400万用户对话记录等敏感信息）

LLM治模型盗窃与滥用（例如黑客GPT可以批量生成钓鱼工具）、DDos攻击、供应链漏洞风

理险、无边界的消费导致资源滥用等

全球各国针对大模型加速出台安全管理政策

l欧盟：颁布全球首部全面监管人工智能的法规《人

工智能法案》，把AI应用的风险分为4类：不

可接受风险、高风险、透明风险和最低风险，其中

高风险部分，要求LLM服务商提供安全审计并承

担相应法律责任。

l新加坡：颁布相应的安全法规草案，对AI系统的

安全提出监管和要求，例如《AI系统安全指南》。

l美国：美国联邦、美国各州及城市均出台了包含

《AI权利法案蓝图》《AI风险管理框架》等一系列

AI监管法律或法案

l日本：AI治理框架，注重人机协作场景，推动AI

伦理发展。

l12国：《安全、创新和包容的AI首尔宣言》。

我国针对大模型安全管理政策

科学务实、划定底线、明确责任

“提供深度合成服务，应当遵守法律法规，“国内首个生成式AI安全指导性文件，

尊重社会公德和伦理道德，坚持正确政治“坚持社会主义核心价值观，不得生成煽《要求》给出了生成式人工智能服务在安

方向、舆论导向、价值取向，促进深度合动颠覆国家政权、推翻社会主义制度，危全方面的基本要求，包括语料安全、模型

成服务向上向善。具有舆论属性或者社会害国家安全和利益、损害国家形象，煽动安全、安全措施、安全评估等，并明确了

动员能力的深度合成服务提供者，应当按分裂国家、破坏国家统一和社会稳定，宣违反社会主义核心价值观的内容、歧视性

照《互联网信息服务算法推荐管理规定》扬恐怖主义、极端主义，宣扬民族仇恨、内容、商业违法违规、侵犯他人合法权益

履行备案和变更、注销备案手续。深度合