第8课 人工智能安全 课件 2023——2024学年浙教版（2023）初中信息技术九年级全册.pptxVIP

信息科技;;;;;我们熟悉的语音识别或图像识别在应用中存在哪些安全隐患？ 人工智能会不会是隐私的泄密者？为什么？; 人工智能技术具有安全赋能和安全伴生两大效应。所谓安全赋能是指人工智能为保障网络空间安全、提升经济社会风险防控能力等方面提供了新手段和新途径。所谓安全伴生是指当人工智能发展到一定阶段后，在不断的应用中发现新的安全问题伴生而来，其安全性将受到更严峻的挑战。;一、人工智能助力安全; 2.垃圾邮件检测 人工智能技术发展的初期，使用规则对垃圾邮件进行检测。在垃圾邮件的检测中，当邮件中出现事先指定的_ 些可能属于垃圾邮件的词语时，这封邮件很可能就是垃圾邮件，当邮件里出现网址时，也可能是垃圾邮件。但随着规则越来越多，这样的检测系统也变得越来越复杂。机器学习算法可以自动地从数据的某些特征中学习它们之间的关系，并且通过对数据的不断学习，提升垃圾邮件检测的能力和性能。;体验使用贝叶斯分类器算法进行垃圾邮件判定。;二、人工智能内生安全; 如果恶意使用对抗样本，可以欺骗自动驾驶汽车，使其不能正确识别道路停车标志，从而引发事故；可以欺骗语音识别系统，让系统误认为是“主人语音”而执行虚假命令；可以入侵城市交通系统甚至武器系统。这种通过对抗样本对智能系统发起的欺骗被称为“对抗性攻击”。;体验“对抗样本”对人工智能模型可靠性的影响。实践内容如下： 1.准备原始图片数据和添加噪声后的图片数据。 2.在Keras上使用RexNel分类模型。 3.查看实验结果并分析。; 2.算法安全 如果想保证算法的完全正确，需要从理论上对算法进行证 证明算法在任何情况下都能产生正确的结果。 深度神经网络在很多领域能取得远超传统算法的准确率，但缺乏可解释性。针对不同任务需要多少隐藏层，每个隐藏层抽取了何种特征还未能完全说明。在一些对准确率要求高、可解释性要求强的场景中，神经网络造成的失误会产生巨大影响。人工智能算法可以借助海量数据进行自我学习和进化，可以在无人干预下自主处理问题，这也使得人工智能的行为和决策难以被事先???料和干预，从而增加安全风险。 ;3.模型安全 人工智能算法往往需要训练大量的模型参数，经过训练之后生成的模型一般以实体文件的形式保存在服务器。如果攻击者攻击了云端服务器，利用服务器漏洞获取模型参数，可能造成严重后果。随着人工智能的普及，很多开发者将训练好的模型共享给更多用户，如果攻击者对开源的模型进行攻击，向其中注入恶意代码或参数，生成“变异”的神经网络模型并再次共享，在遇到特定情况或数据时，触发执行特定的恶意行为，会引起重大的安全问题。;三、人工智能安全发展;;小结;; 1.个性化智能推荐已深度应用于新闻信息行业，也广泛应用于旅游出行、电子商务、金融服务等行业。智能推荐系统在给人们生活带来便利的同时，在实际应用中也暴露出一些安全风险。请结合生活中的应用体验，分析智能推荐的风险挑战，并提出相应的安全监管措施建议。 2.搜索并学习我国有关人工智能安全方面的政策文件。;感谢聆听！