人工智能安全风险管理与控制.pptxVIP

人工智能安全风险：界定、源流与管控1

目录01第一章人工智能安全风险的界定与重要性02第二章人工智能安全风险的源流分析03第三章人工智能安全风险的控制框架04第四章人工智能安全风险的评估方法05第五章人工智能安全风险的管控措施06第六章人工智能安全风险的治理体系2

01第一章人工智能安全风险的界定与重要性3

第1页人工智能安全风险的定义人工智能安全风险是指AI系统在运行过程中可能对人类、社会、环境等造成的潜在危害。例如，2016年谷歌AlphaGo战胜人类围棋冠军时，并未预见到其可能引发军备竞赛的风险。这类风险涵盖功能安全（如自动驾驶系统失灵）、数据安全（如隐私泄露）、伦理安全（如算法歧视）和可控性（如AI失控）等多个维度。风险具有动态演化特征——以深度学习为例，2017年出现的对抗样本攻击表明模型易受精心设计输入的欺骗，这种隐蔽性使传统安全框架难以早期识别。欧盟《人工智能法案》（草案）已将不可解释性列为高风险AI系统的禁令条款，凸显其治理紧迫性。4

第2页人工智能安全风险的表现形式1数据偏见导致的决策歧视风险脸书AI曾因数据偏见对少数族裔投放错误广告，涉事数据集包含7.4万条种族标签错误信息。2算法黑箱引发的不可解释风险英国监管机构要求医疗AI系统必须能解释诊断依据，因患者需知晓治疗依据才能授权使用。3自主武器失控的军事风险美国《杀伤性自主武器公约》草案指出，若