人工智能大模型应用中的安全问题与解决策略.pdfVIP

第2卷第1期网络空间安全科学学报Vol.2No.1

2024年2月JournalofCybersecurityFeb.2024

人工智能大模型应用中的安全问题与解决策略

1*211

刘亦石，周亚建，崔莹，刘建伟

（1.北京航空航天大学网络空间安全学院，北京100191；

2.北京邮电大学网络空间安全学院，北京100876）

摘要：近年来，随着计算机硬件和算法技术的飞速发展，以大模型为代表的人工智能技术在许多领域都表现出比

人类更大的优势。然而，从最初的数据收集和准备到训练、推理和最后的部署过程中，基于人工智能的系统通常容易

受到各种安全威胁。在基于人工智能的系统中，数据采集和预处理阶段容易受到传感器欺骗攻击，在模型的训练和推

理阶段容易受到投毒攻击和对抗性攻击。为了解决这些针对人工智能系统的安全威胁，总结了人工智能大模型安全问

题面临的挑战和解决策略，以便基于大模型的人工智能技术可以在工业应用中落地。具体地说，首先介绍了人工智能

大模型及其特点，然后总结分析了人工智能大模型存在的技术风险和安全漏洞。进一步给出了人工智能大模型安全检

测及保护关键技术的研究方向，提出了未来人工智能大模型安全面临的一些挑战和机遇。

关键词：人工智能安全；大模型；安全漏洞；安全检测

中图分类号：TP18文献标识码：A

DOI:10.20172/j.issn.2097-3136.240107

Securitythreatsandsolutionstrategiesintheapplicationoflarge-scale

artificialintelligencemodel

1*211

LIUYishi,ZHOUYajian,CUIYing,LIUJianwei

（1.SchoolofCyberScienceandTechnology，BeihangUniversity，Beijing100191，China；

2.SchoolofCyberspac