信息安全资料OWASP大模型安全Top 10分析与实践.pdfVIP

OWASP大模型安全

Top10分析与实践

演讲人：OWASP广东分会负责人肖文棣

演讲时间：2025年6月28日

关于OWASP

简介

•OpenWorldApplicationSecurityProject开放全球应用安全项目(OWASP)

是一个非营利性基金会，致力于提高软件的安全性。

愿景

•不再有不安全的软件。

使命

•成为通过教育、工具和协作为安全软件提供支持的全球开放社区。

关于OWASP中国

组织性•性质：OWASP中国是国际非营利性组织OWASP在中

国大陆的分支，秉持着开源、共享的理念，致力于推

动中国地区应用软件安全的发展。

质与使•使命：其使命是提高应用软件的安全性，使软件安全

可视化，让个人和组织能够对应用安全风险作出更清

晰的决策，从而推动安全标准、安全测试工具、安全

命指导手册等应用安全技术的进步。

•领导团队：由主席、副主席、社区经理及各地区负责

组织架人等组成。主席是RIP，副主席是王颉。

•区域：涵盖了安徽、北京、广东、广西、海南、黑龙

江、吉林、江苏、辽宁、内蒙古、陕西、山西、山

构东、四川、上海、浙江等多个地区，各地区均有相应

的负责人。

/www-chapter-china-mainland/

关于OWASP广东分会

负责人：肖文棣、刘志诚

活动：

•一年两次的线下会议

•OWASP全球项目的本地化

•本地项目的全球化

大模型安全定义

大模型安全是指在大语言模型（如

GPT系列、LLaMA、Claude等）的训

练、部署、应用全生命周期中，防范因

模型自身缺陷、外部攻击或滥用导致的

安全风险。随着大模型能力（如上下文

理解、逻辑推理、内容生成）的提升，

其潜在安全威胁也从传统AI安全领域

延伸至更复杂的场景，涉及数据隐私、

模型滥用、伦理风险等多维度问题。

大模型安全常见风险

•数据泄露与篡改•提示注入

•供应链漏洞•模型后门与对抗攻击

•不可靠输出与解析性缺

失

数据安全风技术应用的风

险：模型根基险：模型自身

的隐患的脆弱性

系统与架构风

社会伦理与合

险：基础设施

规风险：

级威胁

•价值观偏见与歧视•框架层漏洞

•关键基础设施威胁•过度代理与权限失控