《人工智能通识》-项目4-6 AIGC音频生成应用 - 人工智能伦理案例.pptxVIP

A/;

本课件为《人工智能通识(AIGC版)》配套教学资

源，由编写团队精心打造。

为便于教学使用，团队同步提供了丰富的辅助材料，

涵盖微课视频、教学课件、实训手册、习题答案、课程

标准及程序源代码等。

同时，教材配套超星教学示范包，支持一键克隆为

网络在线课程，助力高效开展线上线下混合式教学。

欢迎联系出版方订购使用。

书名：《人工智能通识(AIGC版)》

书号：978-7-111-79447-9

出版社：机械工业出版社

主编：蓝永健、吴秀红、罗智聪

副主编：邓爱玲、王有铭、叶菊、周弢;

PARTFOUR

人工智能伦理案例分析;

算法推荐的伦理反思案例分析

算法推荐技术通过个性化信息分发提升了用户体验，但其伦

理争议日益凸显。核心问题在于技术“工具理性”与“价值理性”的失衡：算法以效率最大化为目标，可能忽视公平性、透明性及社会责任，导致信息茧房、大数据杀熟、内容操纵、侵犯隐私等问题，以下是国内外几个典型的案例。;

(1)爱奇艺诉字节跳动算法推荐侵权案：2022年，字节跳动旗下

今日头条利用算法推荐技术推送用户上传的《延禧攻略》侵权短视频，被法院认定构成帮助侵权，判赔200万元。此案首次明确算法推荐服务提供者需承担“应知”侵权内容的责任，突破了“技术中立”抗辩的边界。(来源：虎嗅网，2022);

(2)YouTube算法推荐助长阴谋论传播：YouTube通过算法推荐，

助长了阴谋论的传播，吸引20亿月活用户，超70%观看内容由算法推荐。其推荐系统扩大分裂性、煽动性视频影响，尽管已采取措施减少阴谋论视频推荐，但问题依然存在。(来源：36氪，

2020);

(3)Meta公司青少年成瘾算法：2021年3月，Meta内部调查

发现Instagram算法会向提及饥饿、瘦弱等的用户推荐厌食症相关账户，且其高级领导层明知社交比较对青少年有害，却因该类内容吸引力强而不愿改变算法，遭美国41州起诉。(来源：澎湃新闻，2023);

(4)Facebook极端内容推荐事件：平台算法优先推送煽动性内容，

导致缅甸罗兴亚人冲突加剧。算法将用户停留时长作为核心指标，通过实时反馈机制不断强化仇恨言论传播。(来源：搜狐新闻，

2018);

分析讨论

从人工智能伦理角度来看，算法推荐出现的问题违背了多个伦理原则。一是公平性原

则，算法推荐应公平对待所有用户和内容。二是透明性原则，用户有权了解算法是如何做出推荐决策的，但在实际中，算法的决策过程复杂且不透明。三是责任原则，当算法推荐出现问题时，责任界定往往不明确。四是无害性原则，算法推荐不应对用户和社会造成伤害。;

思考和建议

(1)优化算法设计，融入多维度评估指标。在算法开发过程中，不仅要考虑用户的点击率和停留时长，还应将内容的合法性、真实性、价值观等纳入评估体系。例如，建立内容审核机制，对推荐内容进行严格筛选，避免侵权、虚假、有害信息的传播。同时，借鉴多学科知识，结合社会学、伦理学等，使算法更加全面和科学。

(2)增强算法透明性和可解释性。技术团队应致力于开发可解释性强的算法模型，向

用户公开算法的基本原理、数据使用方式及推荐逻辑等关键信息，保障用户的知情权。同时，建立用户反馈机制，及时收集用户对推荐内容的意见和建议，根据反馈对算法进行优化。

(3)完善法律法规，加强监管力度。政府应制定和完善相关法律法规，明确算法推荐服务提供者的责任和义务，对违规行为进行严格处罚。;

机械工业出版社《人工智能通识》配套资源