人脸视频伪造检测技术进展与趋势.pdfVIP

人脸视频伪造检测技术进展与趋势

人脸视频伪造检测技术

进展与趋势

□/1,221,21

文冯尊磊，娄恒瑞，贝毅君，宋明黎

（1.浙江大学计算机科学与技术学院，杭州310027；2.浙江大学软件学院，浙江宁波315048）

摘要：伪造与伪造检测之间作为动态的攻防关系，一方的进步会促使另一方进行技术上的迭

代和升级。然而，随着AIGC技术的快速发展，逼真的伪造人脸视频可以欺骗人类视觉感知，

人脸视频伪造检测技术已经落后于人脸视频伪造技术，伪造检测技术难以适应复杂的伪造场

景，导致视频内容安全防护受到了重大挑战。因此，对于人脸视频伪造数据的检测，在国家

和社会安全等方面具有重要的研究和应用价值，近年来已成为亟待研究的热点问题。在此背

景下，通过探索评测基准客观量化、基准数据动态更新、应对新型伪造检测、伪造检测自主

进化等方面的技术攻关，可以为人脸视频防伪领域提供新视角和发展方向，促进防伪检测技

术的进一步发展。

关键词：深度学习；深度伪造；假视频；多模态防伪检测

中图分类号：TP18文献标志码：A文章编号：2096-5036(2024)02-0063-07

DOI：10.16453/j.2096-5036.202417

0引言力促进了视频场景剪辑、虚拟试衣、人声分离

等技术的商业应用。通过从大数据中学习并组

[1]

在数字经济时代，生成式人工智能（AIGC）合概念，AIGC在图像和视频生成领域创造出

因其在内容创造领域的广泛应用而备受关注。更加逼真的效果。然而，随着AIGC技术的发

AIGC能够根据用户的输入关键词或需求生成展，特别是在人脸图像和视频生成领域，“眼

相应的内容，展现出在多个应用场景中的巨大见为实”的传统观念受到挑战，验证信息的真

潜力。具体而言，AIGC通过理解当前维度的实性变得日益困难[2]。例如，在2022年网络上

属性信息，能够实现数字内容在不同维度间的广泛流传的关于俄乌两国领导人的深度伪造视

智能增强与转译，从而推动图像超分辨率、语频；2023年4月，美国共和党利用深度伪造技

音转字幕、文字转语音等技术的自动化和效率术发布竞选广告等。这些事件凸显了深度伪造

提升。此外，AIGC的属性控制和内容理解能技术的潜在风险。身份伪造日益成为突出问题，

基金项目：本文系国家重点研发计划项目（2022YFB2703100）阶段性成果。

63

挑战与展望

AI-VIEW

2024年第2期

一些不法分子利用深度伪造技术进行诈骗。这换的方法。这种技术可以用于改变人物的表情、

些都给国家和社会带来严峻威胁与挑战。动作，甚至是嘴唇的动作以匹配另一段音频，

使得伪造内容看起来更加逼真和自然。④在

1人脸视频伪造与检测技术现状分析人脸生成技术方面，AIGC时代下，文生视频

(Text-to-Video)也广泛运用到人脸生成任务

由于人脸视频伪造容易产生较为严重的负面中，文生视频技术将文本描述转换成含有特定

影响，社会各界也已经开始采取相应的防护对策。人脸特征的视频内容。此过程依赖于自然语言