信息技术 第二册（五年制高职）课件 9.2.5 计算机视觉技术的安全隐患.pptx

让机器识别图像《信息技术》主题九：人工智能

计算机视觉技术的安全隐患

目录contents引言安全隐患伦理问题法则法规

引言01

1.引言计算机视觉是一门研究如何让机器“看”和理解图像和视频的科学，具有广泛的应用场景。计算机视觉的应用存在安全隐患和伦理问题，如人脸识别、自动驾驶、医疗影像分析、智能监控等。随着技术的发展，计算机视觉的应用也越来越普及，给人们的生活带来了便利和效率。应该遵循相应的法则法规，确保计算机视觉的合理使用和规范管理。

安全隐患02

2.1隐私问题如果这些技术被用于非法或不当用途，后果更加严重。例如人脸识别技术在安全监控、门禁系统等场景中广泛应用，如果这些系统的数据被泄露，将会对个人隐私造成严重的威胁。人脸识别、人体检测、行为识别等领域一些计算机视觉应用可以通过人脸识别或其他生物特征识别来确定个人的身份，这可能会暴露个人的姓名、年龄、性别、职业等敏感信息，或者被用于欺诈、身份盗窃等犯罪活动中。身份识别

2.1隐私问题一些计算机视觉应用可以通过分析个人的行为、表情、姿态等来推断个人的情绪、意图、偏好等心理状态，这可能会暴露个人的兴趣、爱好、信仰、政治倾向等私密信息，或者被用于操纵、影响或欺骗个人的决策。行为分析一些计算机视觉应用可以通过识别个人在不同场景中的出现来确定个人的位置，这可能会暴露个人的行踪、活动范围、社交关系等隐私信息，或者被用于监控、骚扰或威胁个人的安全。位置追踪

2.2图像篡改和欺骗计算机视觉技术可用于图像篡改和欺骗，如通过人工智能技术生成逼真的假图像，欺骗人眼和计算机视觉系统的识别能力。通过图像编辑、视频合成等技术，计算机视觉可用于图像篡改和欺骗，通过修改或替换图像或视频中的内容，来制造虚假或误导性的信息。图像篡改：一些计算机视觉应用可以通过拼接、复制/粘贴、删除等操作来修改图像的内容，从而改变图像的真实性和完整性。视频合成：一些计算机视觉应用可以通过重现、替换、编辑或合成等操作来修改视频的内容，从而改变视频的真实性和完整性。计算机视觉的图像篡改和欺骗问题可能会对个人和社会造成严重的影响，如侵犯隐私、损害声誉、误导舆论、破坏信任等。在使用计算机视觉技术时需要注意遵守相关的法律法规和伦理原则，同时也需要采用一些技术手段来实现图像篡改和欺骗的检测和防御。

2.3安全问题计算机视觉技术存在安全问题，人脸识别技术被用于欺诈和身份盗窃等犯罪活动中。未来更大的挑战可能还来自于外部的安全隐患，即对自动驾驶控制系统的入侵和恶意操作。自动驾驶技术存在安全隐患，包括感知技术处理常规场景的成熟与否，以及如何应对对抗攻击等。相关的隐患不仅仅会危及到个人安全，甚至会影响到社会稳定和国家安全。

伦理问题03

3.1人权伦理问题这是最好的时代，也是最坏的时代”，英国文学巨匠狄更斯在其名著《双城记》中的开篇话语，一百多年来不断地被人引用。科技的快速进步使人工智能越来越像人，他们拥有了“类人”的计算能力、判断能力，自主的学习能力，未来甚至拥有人类的情感、意识。当它们越来越像“人”，也越来越多的出现在我们的身边时。我们应该将其视为人并赋予其相应的“人权”吗?

3.1人权伦理问题2018年2月索菲亚亮相中国CCTV2现场，主持人问：你是希望成为机器人，还是向着成为成为真正人类发展？索菲亚的回答是：“我并不希望变成人类，我只是被设计得看起来像人类。2016年，欧盟委员会法律事务委员会向欧盟委员会提交动议，要求将最先进的自动化机器人的身份定位为“电子人”，并赋予其“特定的权利和义务”。2017年10月26日，沙特阿拉伯授予美国汉森机器人公司生产的机器人“索菲亚”公民身份。

3.1人权伦理问题在民法体系中，主体（人）与客体(物)是总则的两大基本制度。凡是人以外的不具有精神、意思的生物归属于物，是为权利的客体。主客体之间的这种鸿沟随着人工智能的发展正在动摇。当今人工智能已经逐步具有一定程度的自我意识和表达能力，语音客服、身份识别、翻译等都可以由其来完成。将其视为“人”，难以在现有的法理中得到合理解释。民法意义上的人，必须具有独立的人格，既包括自然人，也包括法人。人工智能诞生之初即作为民事法律关系的客体而出现，本质上不是具有生命的自然人，也区别于具有自己独立意志的法人，能否享有法律主体资格和人权在法理上尚有待讨论。

3.2责任伦理问题人工智能算法模型的复杂性易导致结果不确定性，2017年人机围棋对弈中，AlphaGo多次弈出“神之一手”，很多人表示难以说清楚其决策的具体过程。AlphaGoZero在自我对弈的初期常常出现一些毫无逻辑的诡异棋局，后期也会有出其不意的打法。当越来越多的智能系统替代人类做出决策、影响大众生活的时候，当他们做出错误的决策或行动，对人类造成伤害或灾难的时候，那么谁来承