面向可信大语言模型智能体的安全挑战与应对机制 1.pdfVIP

N55





0


1112

(1.北京邮电大学网络空间安全学院,北京100876;

2.北京航空航天大学网络空间安全学院,北京100191)

摘要随着大语言模型驱动的智能体在各领域的应用日益深化潜在的安全隐患逐渐凸显旨在系统梳

理基于大语言模型的智能体面临的信息泄露模型攻击幻觉输出伦理道德风险和法律合规隐患等安

全可信问题通过对这些安全隐患的成因与影响进行深入分析探讨现有的防护措施和技术手段提出

构建可信大语言模型智能体的建议为相关研究和实践提供参考

关键词可信大语言模型智能体安全防御

中图分类号391.1文献标志码

引用格式张熙李朝卓许诺等.面向可信大语言模型智能体的安全挑战与应对机制信息通信

技术与政策20255113339.

10.12267..2025.01.005

引言一方面,人工智能技术在应用的过程中,也带来了隐

私、安全、经济等方面的问题,进而引发了其可能造成

随着大数据时代的到来以及计算机性能的持续提

长期影响的广泛担忧,尤其是在网络与信息系统安全、

升,以深度学习为代表的机器学习算法在计算机视觉、