AI换脸技术的失控风险与法律规制.pdfVIP

AI换脸技术的失控风险与法律规制

田宏杰*

内容提要：AI换脸技术在社交媒体上愈益广泛使用，很多网络用户将其作为娱乐新方式，

从而有可能引发一系列失控风险。相比于欧盟、美国等侧重从隐私权保护的角度予以规

制，我国法律认为，根据违法行为所侵犯的客体不同，AI换脸视频可能侵犯他人的肖像

权、个人信息以及知识产权等民事权利，滥用AI换脸实施诈骗、盗窃、制造淫秽物品等，

则可能违反刑法。根据中国互联网实际，区分AI换脸视频的不同应用场景，分析其可能

涉及的法律风险，为AI换脸技术的合理发展提供合规建议。

关键词：AI换脸侵权风险法律规制

DOI：10.19350/j.cnki.fzsh.2024.01.002

引言

72变为中国知名神话小说《西游记》中主人公孙悟空的特殊本领，其可以变化为多种外形，从

而使他人无法识别，他的这一神技在中国可谓家喻户晓。在互联网环境下，当这种神技为每个人所

享有，人人都能切换自己与他人的肖像时，这对法治秩序到底是幸运还是不幸？2019年9月，一款

名为“Zao”的AI换脸软件走红中国社交媒体，用户上传个人照片后可“一键”进入明星出演的相

关影视片段中，生成带有自己肖像的新视频，同时还能制作表情包。一些网络用户频频使用此类AI

訛譹

换脸技术，制作、发布换脸视频，甚至一些影视剧制作商也由于合规要求，对于因各种原因无法

出镜的演员，在已经制作完成的影视剧中使用该技术，力图使影视剧合法播放。

对于AI换脸技术所造成的可能侵权后果，法学界虽然已经有所意识，但由于实际发生的纠纷

较少，对于AI换脸的法律风险研究并不十分深入。但这并不意味着AI换脸技术不具有任何法律风

险，该技术背后的隐私权、肖像权等民事侵权与利用他人肖像制作淫秽物品等刑事法律问题应当引

起关注。本文首先对AI换脸视频在中国互联网常见的应用场景予以介绍；随后，根据我国现行法

律就AI换脸视频涉及的可能侵犯隐私权、肖像权、版权等民事侵权问题予以分析；最后，对利用

AI换脸技术制作淫秽视频、欺诈、盗窃等刑事犯罪问题进行分析。

*中国人民大学法学院暨刑事法律科学研究中心教授，博士生导师。本文系中国人民大学科学研究基金（中央高校基本科研

业务费专项资金资助）项目“国家纵向治理体系现代化和法治化若干重大问题研究”（项目批准号：22XNL004）的阶段性

成果。

訛譹如因演员吸毒、嫖娼、公众场所行为不检等而被禁止播放其参与演出的影视作品。

·12·

AI换脸技术的失控风险与法律规制

一、AI换脸的制作方法、应用场景及其“双刃剑”效应

AI换脸视频的制作流程一般为：类似于“Zao”的换脸视频APP应用或网站通过提供知名影视

剧MV等视频，或者知名人物的照片视频等作为素材样本库，通过用户拍摄或上传的照片采集

筑筑

面部相貌特征数据，利用AI换脸技术产出所谓“换脸视频”。AI技术通过收集素材样本中人物的声

音、头饰、服装、肢体