AI时代大模型安全风险与应对思路.pdf

AI时代大模型安全风险与应对思路

火山引擎大模型安全产品负责人郭建新

01大模型的安全挑战02业务分析

03安全需求04安全方案

1.1Gartner2024年十大科技趋势

全民化的生成式AIAI信任、风险和安全管理：TRiSM

AI信任、风险和安全管理-隐私数据保护

AI增强开发-内容异常检测

智能应用-对抗性防御

增强型互联员工队伍-AI应用安全

持续威胁暴露管理-可解释性和透明性

机器客户-模型运维（ModelOps）

可持续技术

平台工程

行业云平台

1.2AI安全与伦理的政策和规范

颁发机构政策和规范名称

颁发机构政策和规范名称

中央办公厅

网信办《网络信息内容生态治理规定》《关于加强科技伦理冶理的意见》

《互联网信息服务算法推荐管理规定》国家新一代人工智

《新一代人工智能治理原则一发展负责任的人工智能》

能治理专业委员会

《关于加强互联网信息服务算法综合治理

《新代人工智能伦理规范》

的指导意见》

全国信息安全标准

《人工智能伦理安全风险防范指引》

《互联网信息服务深度合成管理规定》化技术委员会

《生成式人工智能服务管理暂行办法》信息化标准委员会

《人工智能伦理治理标准化指南》

国家标准委员会《国家新-代人工智能标准体系建设指南》

科技部

《科技伦理审查办法（试行）（征求意见稿）》

全国信息安全标准《生成式人工智能服务安全基本要求》

人民银行

化技术委员会《生成式人工智能服务内容标识要求》《金融领域科技伦理指引》

1.3大模型的挑战

大模型迅猛发展，对个人隐私保护，社会伦理和系统安全产生巨大挑战！

构建大模型安全系统势在必行

2.1大模型和核心业务流程

模型训练模型发布模型精调模型应用

模型供应方

模型供应方模型使用者模型使用者