安全之眼：大模型时代下的攻与防.pdfVIP

演讲人：祝荣吉（BlBana）时间：2024.08.25

#Whoami

•祝荣吉@BlBana

•高级安全研究员@绿盟科技-天元实验室

•M01N战队核心成员

•专注于应用安全、云安全、AI安全与攻防对抗

大模型攻防研究背景大模型威胁面分析

大模型攻击手段与案例大模型安全防御与总结

PARTONE

01

大模型安全背景

大语言模型（LargeLanguageModels,LLMs）是指具有巨大参数量和复杂结构的自然语言处理模型。LLM的核心思想是通过大规模

的无监督训练来学习自然语言的模式和语言结构，这在一定程度上能够模拟人类的语言认知和生成过程。

IDC预测，2026年中国AI大模型市场规模将达到211亿美元，人工智能将进入大规模落地应用关键期。

2019年以来出现的各种大型语言模型（百亿参数以上）时间轴，