人工智能安全.docxVIP

一、AI安全特点： 人工智能攻防技术创新、实战演练、场景挖掘和人才培养，国家工业信息安全发展研究中心、清华大学人工智能研究院和北京瑞莱智慧科技有限公司等单位联合主办了首个全国性人工智能安全赛事——AISC首届人工智能安全大赛。AI安全特点： 1.技术溢出效应强，风险更为普遍。 （1）AI是普适性技术 AI技术作为一项通用的普适性的技术，许多领域作为通用共性基础设施存在，在非常多领域有通用或共同技术发挥作用，如在自动驾驶、智能制造、智慧城市等领域，背后都是相似的深度神经网络算法。 （2）底层隐患或安全漏洞，影响巨大。 导致另外一方面问题，一旦在AI技术底层出现安全隐患或安全漏洞，它影响面非常巨大，可在日常生产生活方方面面都会带来不良的影响。 2.技术复杂程度高，风险难察觉。 （1）获取AI系统本质、细节、逻辑决策难 模型越来越大、参数越来越多、结构越来越复杂，对研发人员和使用者呈现“黑盒”状态，无法获知AI系统本质的每个细节的决策逻辑是怎样的。 （2）预测安全隐患位置难 其不可解释性，使得我们很难事先看到它的安全隐患存在于什么地方。典型的就比如现场演示的“神奇贴纸”，其实就是“对抗样本攻击”，通过在输入数据中添加扰动，使得系统作出错误判断。 在自动驾驶感知系统，这一漏洞同样存在。瑞莱智慧演示了用对抗样本攻击自动驾驶汽车。正常情况下，在识别到路障、指示牌、行人等目标后，自动驾驶车辆就会