深度伪造技术对文检综合领域带来的挑战及应对.pdfVIP

公共 安全领域深度伪造技术检测与防御 深度伪造扌支术 对文域带来的挑* 孙泽宇’袁得箭诈王志宣羽孙炜晨* 1.中国人民公安大学2.安全防范与风险评估公安部重点实验室 3.公安部第一研究所4.多维身份识别与可信认证技术国家工程研究中心 摘 要：随着人工智能技术的发展，通过AI合成伪造内容已成为较成熟的技术点。深度伪造技术可以应用于视频和图像，亦 可用于生成伪造的文检材料。目前使用深度伪造技术在文检、指纹、虹膜等综合领域的应用已经出现，但是缺乏相 应的检测与防御技术。主要介绍了目前的深度伪造技术与文检技术的现状，列举了几种最新的深度伪造技术在文检 综合领域的应用，同时指出了当前深度伪造技术给文检带来的挑战，并给出了初步的检测与防御思路。 关帧深度畑 文帕验笔«^深度艦甌 到文件、指纹、虹膜等文检综合领域的研究和应用。 引言 在文件伪造方面，英国伦敦大学的研究者提出了一种 深度伪造技术是使用深度神经网络合成视频、图像、 算法My Text in Your Handwriting [11 ,该算法以字形为 声音等媒体信息的技术。随着对抗生成网络（GAN ）的出 中心，通过学习间距、线条粗细和压力参数，产生伪造的 现，研究人员在其基础上不断改进，深度伪造技术不断发 笔迹图像。该算法需要带有标签注释的原笔迹样本来生成 展，与此同时深度伪造检测技术也随之发展。深度伪造检 新的笔迹图。生成的图像即使是打印在纸上，看起来也与 测技术同样使用深度神经网络，二者相互博弈，互相促进 手写十分相似。 发展。本文所述的文检综合领域，包括文件检验、指纹识 在虹膜伪造方面，李典回通过渐进式增长生成对抗网 别、虹膜识别三方面，主要讨论当前文件、指纹、虹膜的 络（ProGAN ）、深度卷积生成对抗网络（DCGAN ）两种 深度伪造技术以及相应的检测防御手段。鉴于 目前的深度 不同的对抗生成网络来生成虹膜对抗样本，两个对抗生成 伪造技术的主流是人像视频图像合成，其它内容合成的研 网络所选择的训练数据集为Iris Liveness Detection 究相对较少，因而本文选取了较大的范围进行讨论。尽管 Competition2017 提供的 LivDet-lris-2017-Clarkson 虹膜数 相关研究较少，但也已经出现了多个将深度伪造技术结合 据集中的真实虹膜样本集，并对数据进行了预处理，结果 *基金项目：人工智能安全公安部重点实验室开放课题项目（编号：RGZNAN-2205 ） Police Technology 2023年第1 期 23 显示生成的对抗样本使得现有的多种虹膜识别算法准确率 写，而LSTM能够长时间地保存信息，这使得它们能够很好 下降到50%左右，使得算法基本丧失检测能力。因此现如 地进行时间序列数据的处理、预测和分类，因而较适合笔 今的虹膜识别技术很难应对深度伪造虹膜样本的攻击。 迹伪造场景。 在指纹伪造方面，Hakil Kim回等人设计了一种算法通 后来随着对抗生成网络GAN的出现，大多数研究转向 过主细节集生成和指纹印模生成两个步骤生成深度伪造指 使用和改进GAN进行生成深伪笔迹。GAN模型同时拥有书 纹。主细节集利用两阶段生成对抗网络(GAN ),由标准 写数据的“生成算法”和“判别算法”，当输入一个人的 正态分布采样的随机噪声产生；指纹印模同样通过一个 真实书写数据后，生成算法负责仿造假数据，判别算法负 GAN网络生成。这些