导学0-4 认识人工智能 -人工智能伦理案例.pptxVIP

A/;

本课件为《人工智能通识(AIGC版)》配套教学资

源，由编写团队精心打造。

为便于教学使用，团队同步提供了丰富的辅助材料，

涵盖微课视频、教学课件、实训手册、习题答案、课程

标准及程序源代码等。

同时，教材配套超星教学示范包，支持一键克隆为

网络在线课程，助力高效开展线上线下混合式教学。

欢迎联系出版方订购使用。

书名：《人工智能通识(AIGC版)》

书号：978-7-111-79447-9

出版社：机械工业出版社

主编：蓝永健、吴秀红、罗智聪

副主编：邓爱玲、王有铭、叶菊、周弢;

PARTFOUR

人工智能伦理案例分析;

算法偏见和“大数据”杀熟案例分析

算法偏见指的是计算机系统在设计、开发或应用过程中，由

于各种原因，对某些特定群体产生系统性、不公正的歧视性结果。简单说，就是算法“不公平”,它复制甚至放大了人类社会中原有的偏见。

“大数据杀熟”是算法偏见和商业牟利结合的一个典型表现。

它指的是企业利用其掌握的用户数据(如消费历史、行为偏好、设备信息等),对老客户、忠诚客户或特定消费习惯的客户，制定比新客户更高的价格。其核心是“价格歧视”

的一种形式。;

(1)亚马逊AI招聘歧视女性。亚马逊的Al招聘系统因训练数据偏

差，自动降低女性求职者评分，甚至过滤“女子学院”等关键词简历。事件曝光后，亚马逊停用该系统，并引发全球对AI伦理的讨论;

(2)Uber动态定价“趁火打劫”。在悉尼人质劫持事件发生时，

Uber竟调高收费标准，Uber算法自动调高车费至4倍正常价格，向急于逃离悉尼市中心的乘客收取高价，遭批“发灾难财”。Uber最终道歉退款，暴露紧急情况下算法的道德风险;

(3)携程“国内大数据杀熟第一案”。2020年7月胡女士通过携

程APP预订酒店，支付了2889元，但发现酒店实际挂牌价仅为1377.63元。法院最终认定携程存在虚假宣传、价格欺诈和欺骗行为，并支持胡女士的“退一赔三”诉讼请求。;

(4)滴滴“高峰期加价”争议。雨天或高峰时段，滴滴算法使相

同路线车费飙升，出现“越等越贵”现象。滴滴虽设加价上限，仍被质疑变相杀熟;

分析讨论

从人工智能伦理的角度来看，算法偏见和杀熟问题暴露了AI伦理中的公平性、透明性

和责任归属三大挑战。

首先，公平性被忽视：算法将历史偏见编码为“客观规律”,如亚马逊案例中系统性贬低女性价值，违背了技术中立原则。

其次，黑箱操作损害透明性：用户无法知晓定价或决策依据(如携程虚高房价),剥夺了知情权。

最后，责任主体模糊：企业常以“算法自主决策”推诿，如Uber最初将加价归咎于

系统自动响应，逃避人为责任。;

思考和建议

伦理上，技术必须服务于人的尊严而非剥削，需将“正义原则”(罗尔斯)嵌入设计，

例如通过伦理审查委员会监督算法应用场景，确保技术符合社会价值观。;

思考和建议

解决这些问题需要多维度治理，需结合技术改进、法律监管、行业自律与公众参与：

(1)技术层面：采用“伦理设计”(EthicsbyDesign)方法，在算法开发中嵌入

公平性约束。例如，通过对抗学习消除敏感属性(性别、种族)的影响，或采用联邦学习减少数据垄断。IBM的AIFairness360工具包已提供超20种公平性检测指标。;

思考和建议

(2)监管层面：建立算法备案与审计制度。欧盟通过《通用数据保护条例》

(GDPR)和《AI法案》构建了严格的算法治理框架，要求企业证明其算法不存在歧视性，

违者罚款；中国《互联网信息服务算法推荐管理规定》则明确禁止“大数据杀熟”,要求平台公开算法基本原理。

(3)行业自律：如IEEE的《伦理对齐设计》框架，鼓励企业成立伦理委员会。国内

企业如阿里巴巴也发布《人工智能治理与可持续发展实践报告》,承诺避免歧视性算法。;

机械工业出版社《人工智能通识》配套资源