人工智能“复活”逝者的伦理风险及其治理.pdf

人工智能“复活”逝者的

伦理风险及其治理

杜严勇

摘要：近些年来，人工智能“复活”逝者及其引发的社会问题引起公众普遍关注和讨论。基于人工智能

技术建构的虚拟生命可以在一定程度上满足人们试图保持与逝者沟通交流的愿望，但也会引发深刻的伦理风

险。虚拟生命的应用可能侵犯逝者隐私和尊严，也存在不当使用以及恶意使用的风险。同时，虚拟生命可能

影响用户的心理健康，阻碍用户完成一个成功的悲伤过程，技术方面的因素也可能使用户反复受到伤害。包

括政府管理部门、科技企业、科技工作者与用户在内的所有利益相关者应当各尽其责，共同努力防范虚拟生

命的伦理风险。

关键词：人工智能；虚拟生命；伦理风险；治理路径

中图分类号：N031文献标识码：A文章编号：1000—8691（2024）05—0144—08

随着人工智能技术的快速发展与日益成熟，特别是生成式人工智能展现出来的巨大潜力，使得越来越

多的科技企业热衷于开发人工智能技术应用的新领域。同时，应用人工智能技术的门槛亦逐渐降低，人们

很容易使用某些技术工具生成各种文本、图像、声音与视频。在当前众多的应用领域中，人工智能“复活”

逝者是最受公众关注的领域之一，人们通过网络论坛、社交平台、新闻媒体等多种途径发表各自的观点。

人们在肯定这项技术的积极影响的同时，也对潜在的伦理风险表示担忧，不少个人与技术平台表示应该慎

用。2024年4月清明节前夕，抖音发布清明节期间内容创作提醒，建议慎用“AI复活技术”，提醒用户

尊重逝者及其亲友。未经逝者生前同意或逝者家属授权，请勿利用AI或其他技术手段“复活”逝者。

近几年来，人工智能“复活”逝者引发的社会问题逐渐成为国内外学术界讨论的热门话题之一。中国

学者从智能数字人技术的传播与应用角度出发，分析了数字永生的可能性，强调应该正视其可能带来的伦

a

理风险。在英文文献中，通常可以见到用死亡机器人（deathbots,deadbots,thanabots）、悲伤机器人（griefbot）、

数字永生（digitalimmortality）、数字亡灵术（digitalnecromancy）等概念来指称人工智能“复活”逝者。

以上概念虽然略有差异，但基本上都指使用人工智能技术，通过分析逝者的聊天记录、录音，以及关于逝

者的视频、文字等内容，建构出模仿逝者语言、行为的风格与特征的虚拟生命，使其能够以数字形式继续

存在。考虑到“复活”概念可能带来不必要的误解，以及“死亡机器人、悲伤机器人”等概念不太适合中

基金项目：本文是国家社会科学基金重大项目“人工智能伦理风险防范研究”（项目号：20ZD041）的阶段性成果。

作者简介：杜严勇，男，同济大学人文学院特聘教授、博士生导师，国家社会科学基金重大项目首席专家，主要从事人工智

能伦理研究。

a刘琴：《生死叠合：离场记忆的情感仿真、拟化同在与数字永生》，《现代传播》2022年第9期。

144

20245

年第期

国的文化环境，同时为了与传统的“数字生命”“人工生命”等概念相区别，本文统一用“虚拟生命”

来替代以上概念。本文尝试总结现有技术的发展与应用现状，探讨其可能产生的益处，重点分析潜在的

核心伦理风险，并提出相应的治理途径。

一、技术研发应用现状与可能益处

（一）技术研发与应用现状

与逝者保持一定的联系与互动其实是人类一种古老的愿望与哀悼模式。荀子在《礼论》篇中对丧礼

进行了详尽的描述，并提到“故三月之葬，其貌以生设饰死者也，殆非直留死者以安生也，是致隆思慕

之义也”a，也就是让活着的人在葬礼上扮演死者以表示思念。古希腊人相信灵界（spiritworld）的存在，

并试图在巫师的帮助下，通过某种仪式与逝者进行交流。古今中外林林总总的招魂术，都在一定程度上

表达了人类希望与逝者保持某种形式的联系与沟通。

随着现代科学技术的发展，人们采用多种技术手段来纪念逝者，或者与逝者保持一定的互