大语言模型安全性：分类、评估、归因、缓解、展望.pdfVIP

第20卷第1期智能系统学报Vol.20No.1

2025年1月CAAITransactionsonIntelligentSystemsJan.2025

DOI:10.11992/tis.202401006

网络出版地址:/urlid/23.1538.TP1608.002

大语言模型安全性：分类、评估、归因、缓解、展望

1111211131

黄河燕，李思霖，兰天伟，邱昱力，柳泽明，姚嘉树，曾理，单赢宇，施晓明，郭宇航

（1.北京理工大学计算机学院,北京100081;2.北京航空航天大学计算机学院,北京100191;3.哈尔滨工业大

学计算机学院社会计算与信息检索研究中心,黑龙江哈尔滨150001）

摘要：大语言模型能够在多个领域及任务上给出与人类水平相当的解答，并且在未经训练的领域和任务上展

现了丰富的涌现能力。然而，目前基于大语言模型的人工智能系统存在许多安全性隐患，例如大语言模型系统

容易受到难以被察觉的攻击，模型生成的内容存在违法、泄密、仇恨、偏见、错误等问题。并且在实际应用中，

大语言模型可能被滥用，生成的内容可能引起国家、人群和领域等多个层面的困扰。本文旨在深入探讨大语言

模型面临的安全性风险并进行分类，回顾现有的评估方法，研究安全性风险背后的因果机制，并总结现有的解

决措施。具体而言，本文明确了大语言模型面临的10种安全性风险，并将其归类为模型自身安全性风险与生

成内容的安全性风险两个方面，并对每种风险进行了详细的分析和讲解。此外，本文还从生命周期和危害程度

两个角度对大语言模型的安全风险进行了系统化的分析，并介绍了现有的大语言模型安全风险评估方法、大语

言模型安全风险的出现原因以及相应的缓解措施。大语言模型的安全风险是亟待解决的重要问题。

关键词：大语言模型；模型自身安全性；生成内容安全性；安全性分类；安全性风险评估；安全性风险归因；安全

性风险缓解措施；安全性研究展望

中图分类号：TP39文献标志码：A文章编号：1673−4785(2025)01−0002−31

中文引用格式：黄河燕,李思霖,兰天伟,等.大语言模型安全性：分类、评估、归因、缓解、展望[J].智能系统学报,2025,20(1):

2–32.

英文引用格式：HUANGHeyan,LISilin,LANTianwei,etal.Asurveyonthesafetyoflargelanguagemodel:classification,evalu-

ation,attribution,mitigationandprospect[J].CAAItransactionsonintelligentsystems,2025,20(1):2–32.

Asurveyonthesafetyoflargelanguagemodel:classification,

evaluation,attribution,mitigationandprospect

1111211

HUANGHeyan，LISilin，LANTianwei，QIUYuli，LIUZeming，YAOJiashu，ZENGLi，

1