大模型应用上线前安全检查清单.docx

大模型应用上线前安全检查清单

一、总则与适用范围

本清单适用于所有基于大语言模型构建的应用系统在正式上线前的安全审查工作，覆盖面向外部用户的服务型应用、面向内部员工的效率型应用、具备Agent能力的执行型应用，以及基于RAG架构的知识问答系统。

大模型应用的安全风险与传统应用存在本质差异。传统应用的安全边界主要围绕代码逻辑、数据库权限和网络接口展开，而大模型应用引入了自然语言即指令的新攻击面——用户的输入不再只是被动数据，可能被模型当作指令执行；模型检索的外部内容也不再只是参考资料，可能携带隐藏的恶意指令。同时，具备工具调用能力的Agent应用还会将语言层面的风险转化为真实的系统操