OWASP大模型安全Top 10分析与实践.pptxVIP

OWASP大模型安全

Top10分析与实践

OWASP广东分会负责人肖文棣

2025年6月28日

使命

简介

愿景

•OpenWorldApplicationSecurityProject开放全球应用安全项目(OWASP)

是一个非营利性基金会，致力于提高软件的安全性。

•成为通过教育、工具和协作为安全软件提供支持的全球开放社区。

•不再有不安全的软件。

•性质：OWASP中国是国际非营利性组织OWASP在中国大陆的分支，秉持着开源、共享的理念，致力于推动中国地区应用软件安全的发展。

•使命：其使命是提高应用软件的安全性，使软件安全可视化，让个人和组织能够对应用安全风险作出更清晰的决策，从而推动安全标准、安全测试工具、安全指导手册等应用安全技术的进步。

•领导团队：由主席、副主席、社区经理及各地区负责人等组成。主席是RIP，副主席是王颉。

•区域：涵盖了安徽、北京、广东、广西、海南、黑龙江、吉林、江苏、辽宁、内蒙古、陕西、山西、山

东、四川、上海、浙江等多个地区，各地区均有相应的负责人。

组织性

质与使命

组织架构

/www-chapter-china-mainland/

活动：

负责人：肖文棣、刘志诚

•一年两次的线下会议

•OWASP全球项目的本地化

•本地项目的全球化

大模型安全是指在大语言模型（如

GPT系列、LLaMA、Claude等）的训

练、部署、应用全生命周期中，防范因模型自身缺陷、外部攻击或滥用导致的安全风险。随着大模型能力（如上下文理解、逻辑推理、内容生成）的提升，其潜在安全威胁也从传统AI安全领域延伸至更复杂的场景，涉及数据隐私、模型滥用、伦理风险等多维度问题。

•价值观偏见与歧视

•关键基础设施威胁

•法律法规挑战

•框架层漏洞

•过度代理与权限失控

•资源滥用（无界消费）

•提示注入

•模型后门与对抗攻击

•不可靠输出与解析性缺失

技术应用的风

险：模型自身

的脆弱性

系统与架构风

险：基础设施

级威胁

数据安全风

险：模型根基

的隐患

社会伦理与合

规风险：

•数据泄露与篡改

•供应链漏洞

本项目始于2023年，本项目聚焦在人工智能应用相关的安全问题，随着大语言模型

技术的发展，开发人员与安全专家不断发现新的安全漏洞，并探索相应的解决方

案。

本项目从2023年起历经三个版本，v1.0版本（OWASP广东分会引进），v1.1版本（OWASP中国没有引进），v2.0版本（OWASP北京分会引进）

本项目的Top10名单来自全球专家的通力合作，整个过程包括头脑风暴、投票以及

来自参与大模型应用安全的专家反馈。

OWASP大模型安全Top10项目简

介

LLM06:2023过度依赖大语言模型生成的内容

LLM07:2023人工智能未充分对齐

LLM04:2023非授权代码执行

LLM05:2023SSRF漏洞

LLM03:2023不完善的沙盒隔离

LLM02:2023数据泄露

LLM08:2023访问控制不足

LLM09:2023错误处置不当

LLM10:2023训练数据投毒

LLM02:2023不安全的输出处理

LLM04:2023模型拒绝服务（新增）

LLM05:2023供应链漏洞

LLM01:2023提示词注入

LLM03:2023训练数据投毒

LLM09:2023过度依赖

LLM10:2023模型窃取（新增）

LLM07:2023不安全的插件设计

LLM06:2023敏感信息泄露

LLM08:2023过度代理

LLM01:2023提示词注入

LLM03:2023训练数据投毒

LLM04:2023模型拒绝服务

LLM05:2023供应链漏洞

LLM02:2023不安全的输出处理

LLM09:2023过度依赖

LLM06:2023敏感信息泄露

LLM07:2023不安全的插件设计

LLM04:2025数据和模型投毒

LLM05:2025不当输出处理

LLM06:2025过度代理

LLM07:2025系统提示词泄露（新增）

LLM08:2025向量与嵌入的弱点（新增）

LLM09:2023虚假信息

LLM10:2023无界消费

LLM01:2025提示词注入

LLM02:2025敏感数据泄露

LLM03:2025供应链漏洞

LLM08:2023过度代理

LLM10:2023模型窃取

LLM01:2023提示词注入

LLM05:2025不

当输出处理

LLM06:2025过

度代理

LLM09:2023虚

假信息

LLM01:2025提

示词注入

LLM02:2025敏

感数据泄露

LLM07:202