6.2 人工智能安全风险.pptxVIP

CHAPTER6.2·第6章人工智能与社会6.2人工智能安全风险当AI成为新基建，安全风险正从技术层渗透到社会肌理——技术、数据、应用、社会，四道防线如何守？人工智能通识教程·第6章1/10

6.2·从三个场景说起这些不是科幻电影，而是已经发生的风险类型城市瘫痪智慧交通调度算法突发故障，全城红绿灯失控3小时，交通陷入瘫痪。数据失窃生物医药企业AI研发数据遭黑客窃取，价值5亿元的新药成果泄露。深度伪造直播平台AI换脸技术被滥用，伪造形象的虚假视频在网络传播。风险呈现“技术—社会”交织的复杂样态；理解安全，就是建立发展与安全的辩证认知。2/10

6.2·风险地图四类风险，一张图看清全貌图6-2人工智能安全风险分类（教材原图）3/10

6.2·技术安全风险技术风险有三个来源：漏洞、攻击、失控算法漏洞志愿填报匹配偏差，误导考生；自动驾驶在暴雨中误判积水路况。对抗性攻击人眼难察的像素扰动就能骗过图像识别；隐蔽音频可诱导音箱开锁、转账。系统失控传感器失效、参数漂移、通信中断；电商多算法互相降价，陷入反馈循环。4/10

6.2·怎么守应对之道：技术手段与管理制度“双盾”技术层自动化漏洞扫描与定期安全评估对抗性训练，提升模型抗干扰能力关键系统设置人工介入与接管机制管理层《网络安全法》《数据安全法》《生成式人工智能服务管理