面向大语言模型的提示注入攻击多层语义防御与知识边界约束系统设计.docxVIP

PAGE2

面向大语言模型的提示注入攻击多层语义防御与知识边界约束系统设计

摘要

大语言模型在自然语言理解与生成任务中取得突破性进展，但其开放交互接口也使其面临提示注入攻击的严重威胁。攻击者通过构造恶意提示，可诱导模型越狱、泄露敏感知识或生成有害内容。本课题针对现有防御方案在语义感知能力弱、边界约束模糊、多层防护缺失等问题，设计并实现了一套多层语义防御与知识边界约束系统。系统构建意图与知识双重边界约束机制，从输入源头到输出末端逐层过滤风险；设计多层语义解析防御算法，将提示文本依次经过意图分解层、语义向量化层、越狱特征检测层与响应安全封装层，实现对注入攻击的深度感知与阻断。本文采用需求分析、总体设计、详细设计、系统实现与测试的工程流程，实现了原型系统。测试结果表明，系统对越狱类提示的检出率达93.2%，对正常提示的误拦率仅4.7%，同时将模型在受限知识域外的回答拒绝率提升至98.6%，有效抵御了提示注入攻击。

第一章绪论

1.1研究背景

大语言模型正在重塑人机交互范式，广泛应用于智能客服、内容生成、代码辅助等领域。然而，这些模型通常采用“开放域”交互模式，用户输入的任意文本均可被模型解析并生成响应，这为攻击者提供了可乘之机。

提示注入攻击是其中危害性最强、隐蔽性最高的一类攻击。攻击者通过精心构造的提示，可绕过模型的安全对齐机制，使其产生暴力、歧视、欺诈等有害输出。

此类攻击