安全智能重构：大模型安全应用研究前沿 (2).pdfVIP

1

安安全全智智能能重重构构：：大大模模型型安安全全应应用用

研研究究前前沿沿

中中国国传传媒媒大大学学

张张润润滋滋

2025.5.11

2

个个人人简简介介

张张润润滋滋中中国国传传媒媒大大学学媒媒体体融融合合与与传传播播国国家家重重点点实实验验室室/数数

据据智智能能与与网网络络安安全全研研究究院院副副研研究究员员

⚫博博士士毕毕业业于于中中国国科科学学院院大大学学，，清清华华大大学学博博士士后后

⚫曾曾任任绿绿盟盟科科技技创创新新研研究究院院研研究究员员，，AISecOps团团队队负负责责人人

⚫研研究究方方向向：：网网络络空空间间安安全全与与人人工工智智能能技技术术交交叉叉技技术术方方向向，，包包括括人人

工工智智能能驱驱动动的的智智能能安安全全运运营营、、大大模模型型安安全全、、可可信信人人工工智智能能、、数数据据

驱驱动动威威胁胁狩狩猎猎等等，，也也拓拓展展到到智智算算安安全全、、认认知知安安全全等等方方向向。。

3

大大模模型型安安全全应应用用研研究究主主要要趋趋势势

目目录录大大模模型型安安全全应应用用研研究究关关键键问问题题

CONTENTS

大大模模型型安安全全应应用用研研究究技技术术前前沿沿

总总结结

4

大大模模型型安安全全应应用用研研究究

主主要要趋趋势势

5

安安全全智智能能发发展展路路径径概概览览

◻安安全全智智能能的的终终极极目目标标，，是是实实现现能能够够鲁鲁棒棒决决策策的的智智能能代代理理，，将将网网络络安安全全分分析析的的全全流流程程实实现现自自动动

化化。。

6

场场景景的的“应应用用尽尽用用”

◻生生成成式式人人工工智智能能（（GenAI））成成为为全全球球数数字字化化转转型型与与业业务务重重构构的的主主要要推推动动力力。。在在网网络络空空间间安安全全

领领域域，，GenAI成成为为加加速速攻攻防防技技术术变变革革、、重重构构安安全全生生态态的的主主要要驱驱动动力力，，GenAI驱驱动动安安全全

成成为为新新一一轮轮国国际际和和国国内内网网络络安安全全技技术术军军备备竞竞赛赛的的主主战战场场。。

7