大语言模型越狱攻击 模型、根因及其攻防演化.pdf

:onlinelatex

SCIENTIASINICAInformationis

评述

大语言模型越狱攻击:模型、根因及其攻防演化

111111,231

,,,,,,,

1.,,710049

2.,710021

3.,100080d

.E-mail:haijunwang@

(:622320146237236762372368)(QCYRCXM-2022-345)

e

摘要,,.,

t

,,

,.,

;

p

,,

;,,

.

关键词,,,,

e

1引言c

,Pre-trainedLanguageModel,PLM

LargeLanguageModel,LLM.LLM[1∼3]Natural

c[4][5]

LanguageProcess,NLP.

[6][7][8][9,10]

,.

,,

[11∼13][14][15][16]

,.

A

,LLM.

LLM[17∼19],,

.,

,,.

.RedditDAN[20](Do

引用格式:,,,..:,

XitaoLI,JiangWU,QinghuaZHENG,etal.Jailbreakinglargelanguagemodels.SciSinInform,forreview

/doi/10.1360/SSI-2024-0196

李希陶等中国科学:信息科学在审文章2

AnythingNow),DAN,

,;

,;,,

,,

[21],EmeraldSleet,LLM

.

LLM,LLM.,ios

,