面向可信大语言模型智能体的安全挑战与应对机制 1.pdfVIP

N55





0


面向可信大语言模型智能体的安全挑战与应对机制

1112

张熙李朝卓许诺张力天

(1.北京邮电大学网络空间安全学院,北京100876;

2.北京航空航天大学网络空间安全学院,北京100191)

摘要:随着大语言模型驱动的智能体在各领域的应用日益深化,潜在的安全隐患逐渐凸显。旨在系统梳

理基于大语言模型的智能体面临的信息泄露、模型攻击、幻觉输出、伦理道德风险和法律合规隐患等安

全可信问题。通过对这些安全隐患的成因与影响进行深入分析,探讨现有的防护措施和技术手段,提出

构建可信大语言模型智能体的建议,为相关研究和实践提供参考。

关键词:可信大语言模型智能体;安全;防御

中图分类号:TP391.1文献标志码:A

引用格式:张熙,李朝卓,许诺,等.面向可信大语言模型智能体的安全挑战与应对机制[J].信息通信

技术与政策,2025,51(1):33-39.

DOI:10.12267/j.issn.2096-5931.2025.01.005

0引言一方面,人工智能技术在应用的过程中,也带来了隐

私、安全、经济等方面的问题,进而引发了其可能造成

随着大数据时代的到来以及计算机性能的持续提

长期影响的广泛担忧,尤其是在网络与信息系统安全、

升,以深度学习为代表的机器学习算法在计算机视觉、社会生产、就业、法