《人工智能通识》-项目5-5 AIGC视频生成应用 - 人工智能伦理案例.pptxVIP

A/;

本课件为《人工智能通识(AIGC版)》配套教学资

源，由编写团队精心打造。

为便于教学使用，团队同步提供了丰富的辅助材料，

涵盖微课视频、教学课件、实训手册、习题答案、课程

标准及程序源代码等。

同时，教材配套超星教学示范包，支持一键克隆为

网络在线课程，助力高效开展线上线下混合式教学。

欢迎联系出版方订购使用。

书名：《人工智能通识(AIGC版)》

书号：978-7-111-79447-9

出版社：机械工业出版社

主编：蓝永健、吴秀红、罗智聪

副主编：邓爱玲、王有铭、叶菊、周弢;

PARTFOUR

人工智能伦理案例分析;

深度伪造的伦理问题案例分析

深度伪造(Deepfake)作为人工智能领域的一项前沿技术，

在近年来引发了诸多严重的伦理问题。它利用深度学习算法等技术手段，对视频、音频等内容进行篡改或生成虚假信息，严重威胁着社会的稳定、个人的名誉与隐私等，对人类社会的价值观和信任体系造成了极大的冲击。;

(1)乌克兰总统被伪造投降视频:2022年，一段篡改泽连斯基

口型的视频在网络上流传，视频中的他被伪造说出“乌克兰宣布放下武器”,引发了公众的广泛关注和热议。(来源：澎湃新闻，2022);

(2)林俊杰起诉B站及UP主侵犯肖像权:歌手林俊杰起诉B站某

UP主(视频上传者),认为对方利用其肖像进行AI换脸，侵犯其个人肖像权。涉案侵权视频共有6部，目前已经全部下架，从标题来看，均为使用林俊杰肖像，替换原视频人物的“换脸”恶搞类视频。(来源：腾讯网，2021);

(3)AI“复活”已逝明星成生意引争议：近期，社交平台出现Al“复

活”已逝明星的生意，还衍生课程售卖、招募代理等，收费几百至上万元。此举涉嫌侵权、恶意炒作，既触碰法律红线，又违背公序良俗，亟待加强监管，确保技术在合规与伦理框架内发展。(来源：央视网，2024);

(4)ChatGPT提供虚假案例致30年老律师执业受限:美国一位

从业30年的律师，在准备案件文书时使用ChatGPT提供材料，文书中引用的6个案件均不存在，导致其被禁止在纽约南区执业。此事引发法律界对使用Al的讨论，虽然AI可为法律工作提效，但目前存在编造内容等风险，使用时???谨慎验证。(来源：澎湃新闻，2023);

分析讨论

从人工智能伦理角度来看，部分技术开发者和使用者在追求技术应用和商业利益的过

程中，忽视了技术可能带来的伦理风险和社会危害，缺乏对他人权益和公共利益的尊重与保护。如在ChatGPT“捏造”虚假司法案件事件中，开发者未充分考虑到模型生成内容可能对司法公正和公众认知产生的误导影响。另一方面，人工智能领域发展迅速，相关的伦理规范和监管机制相对滞后，无法对深度伪造技术的应用进行有效地约束和监督。导致一些不法分子或不良商家有机可乘，利用技术漏洞进行违法犯罪活动，如制作和传播虚假的政治视频、AI换脸视频等，严重侵犯了个人隐私、名誉权和公共安全。;

思考和建议

其一，技术监管与创新要并重。一方面，加大深度伪造检测技术研发力度，利用技术

对抗技术；另一方面，要求企业和机构建立严格技术审核机制，防止技术被滥用。其二，法律法规与伦理规范要完善。加快制定相关法律法规，明确技术应用边界，依法惩处违法者。同时，制定人工智能伦理规范，引导技术开发者和使用者树立正确伦理观念。其三，公众意识与教育要提升。通过多种途径普及人工智能技术和伦理知识，提高公众辨别能力与自我保护意识，培养信息素养和批判性思维。

解决深度伪造的伦理问题需要从技术、法律、伦理和公众教育等多个方面综合施策，

通过各方的共同努力，才能确保人工智能技术的健康、可持续发展，让人们在享受技术带来的便利和创新成果的同时，避免其可能造成的负面影响。;

机械工业出版社《人工智能通识》配套资源