人工智能基础应用 课件 模块五 人工智能安全与人工智能伦理.pptx

任务一认识人工智能对人类安全的影响

任务二探究与应对人工智能伦理问题

;任务一认识人工智能对人类安全的影响

;本任务的三个活动分别介绍了国家安全风险应对、社会安全风险应对、人身安全风险应对的相关知识，并安排了深度伪造案例分析、智能音箱劝主人自杀案例分析、Uber自动驾驶汽车事故案例分析三个分析任务。本任务旨在使学生了解国家安全、社会安全和人身安全的定义，知晓人工智能对国家安全、社会安全、人身安全的影响，并增强人工智能的风险意识。;活动一了解国家安全风险应对;一、国家安全的定义

国家安全是指国家政权、主权、统一和领土完整、人民福祉、经济社会可持续发展和国家其他重大利益相对处于没有危险和不受内外威胁的状态，以及保障持续安全状态的能力。

国家安全涵盖了政治安全、经济安全、军事安全、社会安全、文化安全、生态安全、网络安全、信息安全、核安全、国土安全等多个方面，它们相互联系、相互影响，构成了国家安全的整体。

二、国家安全风险

国家安全风险是指可能对国家安全构成威胁或危害的因素或情况，它们可能来自国内或国外，可能是自然的或人为的，可能是有意的或无意的，可能是单一的或复合的，可能是短期的或长期的。;国家安全风险的主要表现有：

(1)国际形势的变化，导致国与国之间的竞争和冲突的加剧，以及对国家的主权、领土、利益的挑战和侵犯的增多。

(2)国内形势的不稳定，导致社会的矛盾和问题的激化，以及对国家的政权、制度、道路的质疑和攻击的增多。

(3)科技发展和创新的不平衡，导致科技领域的竞争和差距的扩大，以及对国家的发展、创新、安全的制约和威胁的增多。

(4)人类活动和自然灾害的双重影响，导致生态环境的恶化和资源的缺乏，以及对国家的生存、发展、安全的挑战和危机的增多。;三、人工智能对国家安全的潜在影响

人工智能是一种能够模仿或超越人类智能的技术，它具有强大的认知、预测、决策、创新等能力，可以广泛应用于各个领域，为人类社会带来巨大的便利和效益。然而，人工智能技术的发展和应用也可能对国家安全产生一些不利的影响，主要有以下几个方面：

(1)政治安全风险。人工智能技术及其背后的数据和算法，可能潜移默化地引导公众舆论，进而影响人们的政治判断和政治选择，间接把控政治走向；人工智能技术也可能被政治敌对势力用于实施渗透、颠覆、破坏、分裂活动，对国家主权、制度、道路、文化等构成威胁。

(2)经济安全风险。人工智能技术在一定程度上会成为人力工作的“高效替代品”，进而对国家经济安全、社会安全甚至政治安全造成冲击；人工智能技术也可以被用来实施经济破坏活动，例如通过操纵宣传导致金融市场恐慌。;(3)军事安全风险。人工智能技术在军事领域的应用，可以提高作战效率和战略优势，但也可能引发新的军备竞赛和军事冲突，甚至导致核战争的风险。

(4)网络安全风险。人工智能可以成为破坏网络安全和管理的“帮凶”。在人工智能的协助下，网络攻击者可以随时随地对特定目标轻易发起针对性和隐蔽性很强的进攻，将互联网空间变成人人自危的“黑暗森林”。

(5)数据安全风险。人工智能需要海量的数据来进行学习和训练，这些数据中可能包含用户的大量敏感信息，如个人隐私、商业秘密、国家机密等。如果这些信息被滥用或泄露，可能会对个人权益、国家利益造成??重危害。;一、案例描述

深度伪造(Deepfake)是一种利用人工智能技术，通过对图像或视频中的人物进行替换、合成、修改等操作，生成逼真的虚假图像或视频的技术。深度伪造技术可以用于娱乐、教育、艺术等正面用途，但也可能被用于制造和传播虚假信息，对国家安全造成严重威胁。例如：

2018年，一段声称是美国前总统奥巴马批评特朗普的视频在网上疯传，但实际上这是一段由演员乔丹·皮尔和BuzzFeed制作的深度伪造视频，用来展示深度伪造技术的危险性。

2019年，一段声称是俄罗斯总统普京嘲笑特朗普的视频在社交媒体上引发轰动，但实际上这是一段由一名YouTube用户利用深度伪造技术制作的恶搞视频。

2019年6月，一段声称是伊朗最高领袖哈梅内伊在电视上发表反美言论的视频在网上流传，但实际上这是一段由一名美国大学生利用深度伪造技术制作的虚假视频，用来测试人们对深度伪造技术的辨别能力。这段视频引起了美国政府和媒体的关注，一度被误认为是伊朗对美国的挑衅，加剧了两国之间的紧张局势。;二、案例分析

在这些案例中，深度伪造技术对国家安全的影响主要有以下几个方面：

(1)影响国家形象和信誉。深度伪造技术可以轻易地制造或伪造国家领导人或政府官员的言行，制造虚假的政治声明或事件，损害国家的形象和信誉，影响国际社会的认知和判断。

(2)破坏国家稳定和团结。深度伪造技术可以轻易地制造或激化国内的社会矛盾和问题，挑拨或煽动民族、宗教、地区等不同群体之间的对立和冲突，破坏国家的稳定和团结。

(3)增加国