1、大模型应用安全问题与应对措施探索-祝荣吉.pdfVIP

关于我

Aboutme

#Whoami

•祝荣吉@BlBana

•高级安全研究员@绿盟科技-天元实验室

•M01N战队核心成员@西安

•专注于应用安全、云安全、AI安全与攻防对抗，曾在Kcon、蚂蚁

年度白帽大会分享AI安全议题

大模型应用安全问题与应对措施探索

目录

01大模型应用核心风险全景

02核心风险分析与破局思路

03大模型安全启示与展望

01

大模型应用核心风险全景

大模型通用应用形态

✓底层模型基础能力初期应用形态✓上层应用框架能力组件化应用形态

OpenAI、百度、微软、科大讯飞…LLMs组件：支持各种底层模型能力集成

Prompt组件：实现提示词的管理与渲染

Context组件：实现离线的会话上下文状态记忆

Agent组件：实现模型外能力集成与调用

Data组件：实现应用运行过程中各类数据存储

ChatGPT文心一言

API开放能

力

LangChain

ChatGPTFunctionCall

BingChat讯飞星火

垂直行业领域大模型应用

智慧银行应用

应用形态发展引入新的应用安全问题

智慧医疗应用

智慧教育应用

大模型通用业务应用架构形态传统业务组件

新型LLMs业务组件

Agent组件LLMs通用业务应用架构

Prompt组件LLMs组件Data组件

Context组件

传统业务组件

大