- 7
- 0
- 约1万字
- 约 39页
- 2026-04-03 发布于湖南
- 举报
AIInfra安全体系构建与边界思考
AI技术变革带来新的新生隐患
人工智能与大模型的风险组成结构
大模型的安全风险结构:
模型本体+运行环境+应用场景大模型应用安全?敏感信息泄露风险:越狱攻击输出受控内容;?
模型本体+运行环境+应用场景
大模型应用安全
?敏感信息泄露风险:越狱攻击输出受控内容;
?应用开发安全风险:编码规范、风险开源组件;
?应用服务风险:api攻击,web服务攻击、ddos攻击;
?业务安全风险:批量注册、恶意引导、内容爬取;
大模型运行环境安全
?开发框架风险:框架漏洞(包含组件漏洞);
?开放数据集及训练工具风险;
?污染的开放数据集风险;
预处理特征提取
预处理特征提取
计算机内部
转化为数字信息
训练模型
应用模型
决策执行
训练数据集
数据采集
业务
流角
度
训练推理
外部/后续行为具体应用
外部
物理信息获取
算法模型模型处理
大模型本体安全训练?数据泄露的风险(私有数据集、模型文件、个人隐私);
大模型本体安全
训练
?数据泄露的风险(私有数据集、模型文件、个人隐私);
?供应链安全风险:木马后门、组件漏洞;
?越狱风险;
?prompt指令数据泄漏;
推理
部署
基础设施层安全
?基础设施自身的安全性:操作漏洞风险、计算资源漏洞风险权限设置不当风险;
?基础设
您可能关注的文档
- 【腾讯云智能体开发平台】OpenClaw企业级Skill实战手册.pptx
- 2025年保险年报综述:全年资负两端向好,Q4利润受投资扰动.pdf
- 2025年保险年报综述:全年资负两端向好,Q4利润受投资扰动.pptx
- 2026 全球汽车供应商研究:汽车供应链企业的重整与突围之路.pdf
- 2026 全球汽车供应商研究:汽车供应链企业的重整与突围之路.pptx
- 2026茶咖新风向:行业演变与爆品趋势解码.pdf
- 2026年AI赋能文化产业发展报告-AI工具全景指南.pdf
- 2026年AI赋能文化产业发展报告-AI工具全景指南.pptx
- 2026年电子行业春季策略报告:兼顾周期与成长,看好存储芯片景气持续.pdf
- 2026年电子行业春季策略报告:兼顾周期与成长,看好存储芯片景气持续.pptx
- 2026年中国消化酶复合颗粒行业市场规模及投资前景预测分析报告.pdf
- 2026年中国消化酶复合物行业市场规模及投资前景预测分析报告.pdf
- 2026年中国消化内镜仿真终端行业市场规模及投资前景预测分析报告.pdf
- 2026年中国消化系统胆道支架行业市场规模及投资前景预测分析报告.pdf
- 2026年中国消化系统软糖行业市场规模及投资前景预测分析报告.pdf
- 2026年中国消化性溃疡药物行业市场规模及投资前景预测分析报告.pdf
- 2026年中国消偏振板式分束器行业市场规模及投资前景预测分析报告.pdf
- 2026年中国消杀服务行业市场规模及投资前景预测分析报告.pdf
- 2026年中国消声静压箱行业市场规模及投资前景预测分析报告.pdf
- 2026年中国消声箱行业市场规模及投资前景预测分析报告.pdf
最近下载
- 2025中华护理学会团体标准——抗肿瘤药物静脉给药技术.pptx
- 执业药师继续教育《肥胖、阻塞性睡眠呼吸暂停与心血管系统疾病用药选择》习题答案.docx VIP
- 高速公路桥面系施工交底课件.pptx VIP
- 新22S2 给水工程 (建筑图集).docx VIP
- 群星.-《经典老歌首》双音轨卡拉ok(原声.伴奏).doc VIP
- 中国美术史 第四章 三国两晋南北朝美术.ppt VIP
- 《功夫熊猫4》中英文对照剧本字幕.docx VIP
- 李雅普诺夫Lyapunov稳定性理论李雅普诺夫共99页.ppt VIP
- 每日听书《斯多葛投资哲学》导读.pdf VIP
- 陕西省建设工程工程量清单计价费率(2009).pdf VIP
原创力文档

文档评论(0)