AIInfra安全体系构建与边界思考.docxVIP

  • 7
  • 0
  • 约1万字
  • 约 39页
  • 2026-04-03 发布于湖南
  • 举报

AIInfra安全体系构建与边界思考

AI技术变革带来新的新生隐患

人工智能与大模型的风险组成结构

大模型的安全风险结构:

模型本体+运行环境+应用场景大模型应用安全?敏感信息泄露风险:越狱攻击输出受控内容;?

模型本体+运行环境+应用场景

大模型应用安全

?敏感信息泄露风险:越狱攻击输出受控内容;

?应用开发安全风险:编码规范、风险开源组件;

?应用服务风险:api攻击,web服务攻击、ddos攻击;

?业务安全风险:批量注册、恶意引导、内容爬取;

大模型运行环境安全

?开发框架风险:框架漏洞(包含组件漏洞);

?开放数据集及训练工具风险;

?污染的开放数据集风险;

预处理特征提取

预处理特征提取

计算机内部

转化为数字信息

训练模型

应用模型

决策执行

训练数据集

数据采集

业务

流角

度

训练推理

外部/后续行为具体应用

外部

物理信息获取

算法模型模型处理

大模型本体安全训练?数据泄露的风险(私有数据集、模型文件、个人隐私);

大模型本体安全

训练

?数据泄露的风险(私有数据集、模型文件、个人隐私);

?供应链安全风险:木马后门、组件漏洞;

?越狱风险;

?prompt指令数据泄漏;

推理

部署

基础设施层安全

?基础设施自身的安全性:操作漏洞风险、计算资源漏洞风险权限设置不当风险;

?基础设

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档