大语言模型 AI 安全与治理清单（中文版）.docx

LLMAI安全与治理清单

来自OWASPLLM应用程序团队的Top10

修订历史记录

修订

Date日期

作者

描述

0.1

2023-11-01

年

桑迪·邓恩

初稿,初稿

0.5

2023-12-06

年

SandyDunn,

OWASPLLM公司应用程序团队

公开汇票

本文件中提供的信息不构成法律建议,也不打算构成法律建议所有信息仅供参考。

本文档包含指向其他第三方网站的链接。此类链接仅为方便起见OWASP不建议或认可第三方网站的内容。

1概述 4

1.1负责人和值得信赖的人工情报 6

1.2谁是这个为了? 7

1.3为什么-检查表? 8

2大型语言型号挑战 9

2.1有限责任公司威胁类别 10

2.2人工情报安全性和隐私培训 10

2.3责现惯10

2.4基本安全原则o11

2.5风险o11

2.6脆弱性和缓解分类。11

3确定LLM策略。12

3.1部署策略。13

4检查表。14

4.1对抗性风险o14

4.2人工智能资产清单o14

4.3AI安全和隐私培训o14

4.4建立业务案例。15

4.5治理。15

4.6