安全之眼：大模型时代下的攻与防.docxVIP

演讲人：祝荣吉（Bl

演讲人：祝荣吉（BlBana）

时间：2024.08.25

#Whoami????祝荣吉@BlBana高级安全研究员@绿盟科技

#Whoami

?

?

?

?

祝荣吉@BlBana

高级安全研究员@绿盟科技-天元实验室

M01N战队核心成员

专注于应用安全、云安全、AI安全与攻防对抗

大模型攻防研究背景大模型威胁面分析大模型攻击手段与案例大模型安全防御与总结

大模型攻防研究背景

大模型威胁面分析

大模型攻击手段与案例

大模型安全防御与总结

PART01ONE

PART01

ONE

大模型安全背景大语言模型（LargeLanguageModels,LLMs）是指具有巨大参数量和复杂结构的自然语言处理模型。LLM的核心思想是通过大规模的无监督训练来学习自然语言的模式和语言结构，这在一定程度上能够模拟人类的语言认知和生成过程。IDC预测，

大模型安全背景

大语言模型（LargeLanguageModels,LLMs）是指具有巨大参数量和复杂结构的自然语言处理模型。LLM的核心思想是通过大规模

的无监督训练来学习自然语言的模式和语言结构，这在一定程度上能够模拟人类的语言认知和生成过程。

IDC预测，2026年中国AI大模型市场规模将达到211亿美元，人工智能将进入大规模落地应用关键期。

Safety内容安全

模型幻觉问题

政治军事敏感问题诱导不