人工智能伦理导论- 课件 lecture7-技术滥用问题.pptx

技术滥用问题Lecture72024/2/121

2024/2/122如果我们继续在不够明智和审慎的情况下发展技术，我们的佣人可能最终成为我们的刽子手。——布莱德雷（OmarNelsonBradley）

技术滥用概念目录技术滥用案例技术滥用方式1232024/2/123技术滥用概念

2024/2/1247.1技术滥用概念滥用④多而质量低劣。技术滥用是是指人们在利用技术进行分析、决策、协调、组织等一系列的活动中，其使用目的、使用方式、使用范围等出现偏差并引发不良影响的行为或情形。滥用是指胡乱地或过度地使用，指程度、数量等，或者，不恰当的物质（如，酒精或药物）使用，可损害健康或增加对健康损害的危险性。①江河、湖泊的水溢出；②过度，没有节制；③浮泛不合实际；①实行，施行；②治理，管理；③辩用，听从；④出力，效命。例如，远古时期，人类发明了取火技术，用火烤制食物、照明、取暖、冶炼等，为人类生活提供了便利，也改善了人类的生活质量。“火把”用于早期的人类烽火通信，人们可以及时得到信息，防止外敌入侵；纵火，可以引发森林大火、楼宇火灾，给人民生命和财产带来巨大损失。⑤功能。

2024/2/1257.1技术滥用概念滥用技术滥用的诱因主要有如下三个方面：技术设计者出于自身利益，产生对人类不利的行为。例如，金融机构从自身利益出发，推荐不符合用户利益的产品，或者是为了自身局部利益，不顾整体利益，产生了系统性风险；娱乐平台为了自身的商业利益，利用技术诱导用户进行娱乐或信息消费，导致用户沉迷。“技术至上”的内容推荐会导致用户价值观扭曲、视野狭窄等问题。过度依赖技术本身，技术缺陷引发不良后果和影响。即使人工智能的使用者出于正当的目的，在一些极端的场景中，盲目相信技术、过度依赖人工智能，也可能因为技术的缺陷而产生严重后果。例如，医疗误诊导致医疗事故、安防和犯罪误判导致安全问题等，都直接关系到公民的人身安全与自由。盲目扩大技术的应用范围，导致超出人们预期结果。任何人工智能技术都有其特定的应用场景和应用范围。超出原定场景和范围的使用可能会导致技术滥用。例如，在校园中应用人工智能技术，可以帮助学校和教师提高教学效率，但如果盲目扩大到对特定学生行为的全面监控，会对学生造成不良的心理影响。

技术滥用概念目录技术滥用案例技术滥用方式1232024/2/126数据关涉的滥用算法关涉的滥用应用关涉的滥用

2024/2/1277.2技术滥用方式数据关涉的滥用-数据过度采集人工智能应用存在的主要技术滥用方式：数据关涉的滥用、算法关涉的滥用、应用关涉的滥用。数据关涉的滥用是指在数据的采集和分析中恶意使用人工智能技术，损害他人利益或造成不良影响的行为。主要包括数据过度采集问题和数据过度分析问题。数据采集主要方式包括现场无差别采集、直接在线采集、网上公开数据源和商务采购等方式。在现场无差别采集时，由于无法提前预知采集的用户，难以获得用户授权的充分同意。在直接在线采集时，需要对用户数据进行连续性的处理分析，因此很难保障用户的修改、撤回等权益。在网上公开数据源和商务采购时，目前数据共享、交易和流通的市场化机制不健全，因此存在一部分企业通过灰色渠道获得用户数据，而这些数据缺乏用户知情同意。在公开环境尤其是公共空间进行现场数据采集时，将不可避免地因采集范围扩大而带来数据过度采集问题。如，在无人驾驶场景中，自动驾驶汽车的传感器需要采集街景数据来支持智能驾驶系统的决策从而控制汽车行驶，但是这种无差别的街景数据采集必然会采集到行人的个人数据，甚至可能会采集到路边重要基础设施分布、军事营区等重要数据给国家安全带来风险。机器学习技术提升了数据采集的效率和自动化水平，也加剧了数据过度采集的风险。如，一些公司运用爬虫技术获取用户的信息，如购物流水、通讯录联系人、银行卡账单，支付宝和微信交易记录，以及公积金和社保等数据，然后打包出售，被非法用于不合理和不正当的目的，损害用户的利益。人脸、基因、体态、语音等生物特征数据均属于个人敏感数据，对此类数据的采集和处理存在较大的法律合规和隐私保护风险

2024/2/1287.2技术滥用方式数据过度分析是指超出数据中原有使用目的的使用。理论上在现有法律框架，个人数据在知情同意收集后的使用环节是没有受到任何限制和规避的。数据挖掘是一种重要的人工智能数据分析形式，可以从大量数据中揭示出隐含的、先前未知的并有潜在价值的信息。关于这些具有潜在价值的信息，用户并没有足够的意识和警觉，并不能形成事实上的“知情”，当然就难免导致表象的“知情同意”，往往造成用户的潜在信息在实际不知情情况下被恶意使用。随着人工智能关联分析技术的发展，通过对公民分散的、单个无意义的数据项进行组合关联分析，能够形成对特定个体识别和特征画像的数据集（如，活动场所、行动习惯、政治