顶象2024AI换脸威胁研究与安全策略报告28页.pdf

顶象防御云《“AI换脸”威胁研究及安全策略》

1

marketing@

顶象防御云《“AI换脸”威胁研究及安全策略》

目录

一、“AI换脸”基于“深度伪造”技术3

1、“深度伪造”的构成3

（1）人脸识别和关键点检测3

（2）图像/视频合成技术3

（3）生成对抗网络(GAN)3

（4）增强效果技术4

2、“深度伪造”的危害4

（1）“换脸”视频和图像4

（2）合成真人音频5

（3）伪造文本信息6

二、常见的“深度伪造”欺诈类型8

1、伪造账号造谣传谣8

2、冒充熟人进行诈骗8

3、伪造身份申请银行贷款9

4、让“网络钓鱼”更加难以识别9

5、冒充他人远程面试入职9

6、冒名登录盗走银行余额11

三、“深度伪造”的产业链12

1、“深度伪造”欺诈的过程12

2、“深度伪造”欺诈上游：虚假图文与视频的制作13

3、“深度伪造”欺诈下游：多个平台多个方式实施诈骗15

四、识别检测“深度伪造”的音视频17

1、人的行为与生物识别17

2、设备与操作识别17

3、技术识别与取证18

4、社交防范与公众教育19

五、对抗“AI换脸”欺诈的安全策略19

1、社交媒体场景下的安全策略19

2、银行信贷场景下的安全策略21

六、国家监管与相关法律法规22

1中国22

2、美国23

3、欧盟23

4、澳大利亚23

5、国际组织及会议24

七、哪些机构需要负起责任24

1、社交媒体24

2、金融机构25

3、AI工具提供商25

八、关于情报作者25

1、顶象业务安全情报简介25

2、顶象简介26

2

marketing@

顶象防御云《“AI换脸”威胁研究及安全策略》

一、“AI换脸”基于“深度伪造”技术

AI换脸，也称为“深度伪造”（Deepfake），是一种利用人工智能技术将人脸替换到另一

个人的脸部上的技术。

“深度伪造”技术涉及多种技术和算法，这些技术和算法相互配合，可以生成非常逼真

的图像或视频。将“深度伪造”的虚假内容与真实信息的元素拼凑在一起，就可以用于可以

伪造身份、传播错误信息、制作虚假数字内容，进行各类欺诈。

1、“深度伪造”的构成

（1）人脸识别和关键点检测

人脸识别