高教社2025人工智能与未来教学课件12.2 人工智能带来的安全问题.pptxVIP

FutureEthics第12章未来伦理2035齐兵辉

12.112.212.312.4人工智能伦理概念人工智能带来的安全问题人工智能引发的就业挑战人工智能带来的权责划分问题目录CONTENTS12.5人机关系问题

12.2.1数据隐私安全问题12.2.2技术滥用问题12.2.3一些建议

12.2.1数据隐私安全问题谈起隐私，很多人脑海中首先想到的是以下场景，但是又无法准确表述他的含义。接下来我们首先了解数据隐私的含义。

身份证照片、电话号码、家庭住址、体检报告、个人邮箱。讨论：你觉得还有哪些隐私数据需要保护？

12.2.1数据隐私安全问题接下来我们首先了解数据隐私的含义。数据隐私是指个人或组织对其所拥有或控制的数据保持私密性和保密性的权利。这些数据包括但不限于个人身份信息（如姓名、地址、电话号码）、财务信息、医疗信息、社交媒体活动、电子邮件、通信记录、位置数据等。数据隐私安全是指个人信息的保密性和完整性，保护我们不受外部威胁的侵害?。

12.2.1数据隐私安全问题与传统的数据隐私安全问题相比，人工智能时代的数据隐私安全问题展现出了一系列新的特征。隐私泄露的渠道更多更加隐蔽数据匿名化的挑战与局限

12.2.1数据隐私安全问题由于AI系统的智能化和自动化，隐私侵犯行为可能更加隐蔽。生物识别技术和物联网设备提供的实时数据也被广泛收集，进一步增加了隐私泄露的复杂性。0304AI采用包括网络爬虫在内的多种数据采集技术，自动捕获公共和个人数据。AI系统依赖于大数据进行训练和优化，因此需要收集和处理海量的个人信息，这增加了数据泄露和滥用的风险0102AI时代隐私泄露渠道更加隐蔽

在人工智能技术尚未普及的时代，数据匿名化被视为一种有效的隐私保护措施。人工智能时代，尽管数据匿名化在一定程度上保护了个人隐私，但AI系统仍有可能通过模式识别和预测建模等技术重新识别出个体，从而对匿名化数据进行去匿名化处理，使得原本看似安全的匿名数据变得不再安全。0102AI时代数据匿名化的挑战12.2.1数据隐私安全问题

接下来我们看几个隐私泄露的案例：他们涉及到IT领域的两个巨头：亚马逊、谷歌公司和国内多起事件。12.2.1数据隐私安全问题

案例1:美国媒体2019年爆料称，亚马逊雇佣上千名员工收听和分析被智能音箱录下来的对话。他们每天工作9个小时，每人分析多达1000段音频。亚马逊表示这样做的目的是提升语音助手的语言理解能力，改善用户体验。尽管亚马逊表示员工不会获取用户的姓名等信息，但这种做法还是引起人们对隐私安全的关注。他们担心，一旦这些信息被泄露给第三方，后果将不堪设想。12.2.1数据隐私安全问题

案例2:2018年5月，美国的某个亚马逊智能音箱用户丹尼尔说，她与丈夫在家里的谈话内容，居然被一位朋友听到了。经过排查，丹尼尔发现，这段对话是亚马逊“回声”智能音箱录制并发送给这位朋友的。亚马逊公司调查后认为，因为丹尼尔在说话时某些词语正好唤醒了智能音箱，而智能音箱又“误解”了丹尼尔的谈话内容，所以错误触发了指令，导致了这一事件。丹尼尔认为，智能音箱侵犯了自己的隐私，以后不会再使用类似的设备。12.2.1数据隐私安全问题

案例3:谷歌公司曾经也承认其雇佣的外包合同工会听取用户与其人工智能语音助手的对话，用于让语音服务支持更多语言、音调和方言。12.2.1数据隐私安全问题

案例4:广东某员工为省事，将包含客户信息的内部文件上传至公共AI工具，导致数据泄露。律师指出，这种行为可能构成“侵犯商业秘密罪”，公司因此全员禁用AI。12.2.1数据隐私安全问题

案例5:多个城市安装的AI摄像头不仅识别人脸，还通过分析步态、穿着等推断职业和收入。这些数据被用于商业广告推送，市民感叹“连散步都被算计”。2020年，青岛某售楼处因强制使用人脸识别系统引发争议。购房者需在入口处“刷脸”才能进入，售楼处内安装9个摄像头全程无死角抓拍，甚至通过口罩和虹膜识别技术完成身份判定。此举旨在区分“自然到访客户”与“中介渠道客户”，导致购房优惠差异高达30万元。为保护隐私，购房者被迫戴头盔看房，引发社会广泛关注。12.2.1数据隐私安全问题

12.2.2技术滥用问题带着这两个问题，我们开始下面的学习。什么是技术滥用呢？AI为什么会引发技术滥用呢？

12.2.2技术滥用问题技术滥用是指人们在利用技术进行分析、决策、协调、组织等一系列的活动中，其使用目的、使用方式、使用范围等出现偏差并引发不良影响的行为或情形。太专业了，让我们来举一个例子吧！冶炼技术和钻木生火的广泛使用既可以给人类带来便利也会给人类带来灾难

12.2.2技术滥用问题人工智能技术同样也是一把双刃剑，以科技向善