第8课 人工智能安全 课件 浙教版初中信息科技九年级全册(1).pptVIP

新知讲解1.数据安全数据是人工智能的重要基础。数据集的质量会直接影响人工智能算法的执行效果。使用不同质量的数据集会在训练之后得到不同的模型参数，产生不同的执行效果，进而影响人工智能算法的安全性。二、人工智能内生安全新知讲解数据集的质量取决于数据集的规模、均衡性、准确性等。人为地对数据进行修改在很大程度上能改变人工智能算法的执行效果。即便是已经用高质量数据集训练完毕的人工智能算法模型，只要对输入的数据进行一些人眼无法感知的微小扰动，即可让算法的输出产生巨大的变化，这些经过微小扰动的输入数据就是对抗样本。图8-1显示了对抗样本及其错误辨识的结果。二、人工智能内生安全新知讲解二、人工智能内生安全图8-1对抗样本及其错误辨识结果新知讲解如果恶意使用对抗样本，可以欺骗自动驾驶汽车，使其不能正确识别道路停车标志，从而引发事故;可以欺骗语音识别系统，让系统误认为是“主人语音”而执行虚假命令;可以入侵城市交通系统甚至武器系统。这种通过付抗样本对智能系统发起的欺骗被称为“对抗性攻击”二、人工智能内生安全亲身体验体验“对抗样本”对人工智能模型可靠性的影响。实践内容如下1.准备原始图片数据和添加噪声后的图片数据2.在Keras上使用RexNet分类模型。3.查看实验结果并分析。新知讲解2.算法安全如果想保证算法的完全正确，需要从理论上对算法进行证明，证明