大模型安全 课件 第二章-大模型的安全体系.pptx

大模型安全体系第二章

大模型的防御2.2大模型的安全风险2.1

大模型的安全风险2.1

2.1大模型的安全风险

数据模块风险模型模块风险输入模块风险工具链模块风险输出模块风险提示词直接注入:不依赖大模型内部架构或参数修改，通过设计输入内容诱使大模型生成不符合预期或违反安全规定输出的恶意攻击手段；提示词间接注入:攻击者通过上传如文本、PDF、文件等外部数据源注入恶意提示词，使大模型访问这些数据源时受恶意提示词影响，干扰其输出结果。2.1大模型的安全风险

输入模块风险模型模块风险数据模块风险工具链模块风险输出模块风险隐私泄露攻击：隐私泄露攻击是大模型数据安全的重大隐患，