原创力文档- 1、本文档共55页，可阅读全部内容。
- 2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
- 3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
OWASP-LLM-top10
AIAttackingprotecting
张坤（KK）
个人介绍
姓名：张坤（KK）ID：破天
职位：脑动极光首席信息安全官
OWASP北京分会负责人
教育背景：西班牙UAB大学硕士（Fulltime)
北京某高校网络空间安全学院研究生导师
网络安全研究生实习基地导师
学术领域：
GB_T39725健康医疗行业数据安全指南、健康医疗行业标准*3
某高校外聘研究生导师
中国卫生信息与健康医疗大数据学会首届委员
技术领域：国家三级荣誉证书（技术贡献类）
DPOISO27001PDPPPDPF
CISSP\CISP\DSG\CCIE\PMP\PIP\ITIL\ISO27001\PMP\Prince2\OSTA等认证
医疗器械临床试验管理认证（GCP）
心理咨询师认证
职业履历：网络安全行业从业十余年，曾于金融集团、上市企业及互联网企业、top国企
担任安全负责人角色，负责基础安全、法务合规、隐私合规、安全研发、风控及业务安全、
SRC（安全应急响应中心）、数据安全、内审内控等等工作。
WhatisAl?
Alrolesinapplicationsecurity
Alengineering
如何应对AI安全
•继续做您已经为网络安全所做的一切，不然SAMM是OWASP帮助您成长的模型。
•将AI开发人员、数据科学家以及与AI相关的应用程序和基础架构纳入安全计划：
•风险分析、培训、需求、静态分析、代码审查、渗透测试等。
•通过将良好的软件工程实践应用于您的AI活动（例如版本控制、文档、单元测试、集成测试、性能测试和代
码质量）来超越安全性。有关指南，请参阅ISO/IEC5338标准。这样，人工智能系统将变得更易于维护、可
转移、更可靠和面向未来。最佳做法是在团队中将数据科学家概况与软件工程概况混合，因为软件工程师通
常需要更多地了解数据科学，而数据科学家通常需要更多地了解如何创建易于维护和测试的面向未来的代码。
•确保所有相关人员都了解“特定”人工智能安全风险。
•这些在下图中可视化，连同关键的缓解措施，并在下一节中进行讨论。
大型语言模型(LLM)上的人工智能(AI)应用程序的重要漏洞类型的列表
LLM01:2023提示词注入PromptInjections
绕过过滤器或使用精心制作的提示操作LLM，使模型忽略先前的指令或执行非计划的操作。
LLM02:2023数据泄漏DataLeakage
通过LLM的回复意外泄露敏感信息、专有算法或其他机密细节。
LLM03:2023不完善的沙盒隔离InadequateSandboxing
当LLM可以访问外部资源或敏感系统时，未能正确隔离LLM，从而允许潜在的利用和未经授权的访问。
LLM04:2023非授权代码执行Unau
文档评论（0）