2025年基于大语言模型（LLM）的系统安全：关键授权实践报告-CSA GCR云安全联盟.pptxVIP

;

人工智能技术与风险工作组的官网是

/research/working-groups/ai-technology-

and-risk

O2025云安全联盟大中华区——保留所有权利。你可以在你的电脑上下载、储存、

展示、查看及打印，或者访问云安全联盟大中华区官网()。

须遵守以下：(a)本文只可作个人、信息获取、非商业用途；(b)本文内容不得篡改；(c)本文不得转发；(d)该商标、版权或其他声明不得删除。在遵循中华人民共和国著作权法相关条款情况下合理使用本文内容，使用时请注明引用于云安全联盟大中华区。

◎2025云安全联盟大中华区版权所有2;

企业合作微信号：csagcr认证培训微信号：CSAlynn邮箱：info@;

致谢

《基于大语言模型(LLM)的系统安全：关键授权实践》由CSA工作组专家编写，CSA

大中华区组织AI安全工作组进行翻译并审校。

中文版翻译专家组

翻译组成员：

何伊圣卜宋博崔崟邢海韬卞超轶

郭建领刘刚

审校组成员：

崔崟高健凯卜宋博

感谢以下单位的支持与贡献：;

英文版本编写专家

主要作者：

NateLee、LauraVoicu

联合主席：

ChrisKirschke、MarkYanalitis

贡献者：

BhuvaneswariSelvadurai、DamiánHasse、ErikHajnal、JasonGarman、JohnJiang、

MalteHojmark-Bertelsen、MichaelRoza、TimMichaud

审校组：

ArsalanKhan、AkhilMittal、AdamLundqvist、AlexRebo、AmityFox、DanGora、

GauravPuri、IlangoAllikuzhi、IvanDjordjevic、KenHuang、0ttoSulin、

Prathibha

Muraleedhara、SemihGelisli、SvenOlensky、SrinivasInguva、RavinKumar、

Walter

Haydock

CSA全球工作人员：

JoshBuker、StephenSmith

在此感谢以上专家及单位。如译文有不妥当之处，敬请读者联系CSAGCR秘书处给

予雅正!联系邮箱research@;国际云安全联盟CSA公众号。;

目录

致谢……………………4

引言……………………7

目标读者………………8

范围……………………8

原则……………………9

基于LLM的系统的组成部分………10

编排器……………11

向量数据库………………………11

LLM缓存…………12

验证器……………12

机器学习的安全运维(MLSecOps)……………13

挑战和注意事项……………………14

提示注入…………15

系统与用户提示…………………16

微调与模型训练…………………17

使用LLM的系统的常见架构设计模式……………19

检索增强生成(RAG)…………19

上下文数据………………………19

使用向量数据库的RAG访问……………………21

使用关系数据库的RAG访问……………………23

使用API调用外部系统的RAG…………………26

LLM系统编写和执行代码……