“深度伪造”技术对法官认知的冲击及应对 .pdfVIP

２０２３年第９期学习与探索Ｎｏ.９ꎬ２０２３

(总第３３８期)Ｓｔｕｄｙ＆ＥｘｐｌｏｒａｔｉｏｎＳｅｒｉａｌ.Ｎｏ.３３８

ခ法治文明与法律发展ခ

“深度伪造”

吴进娥ꎬ冯树春

(江苏大学法学院ꎬ江苏镇江２１２０１３)

摘要:“深度伪造”技术的超拟真、反鉴别、快更迭等特点使其伪造的视觉和听觉信息远远超越了一般

人的识别能力ꎬ不仅冲击着传统“眼见为实”“有图有真相”的大众认知模型ꎬ也对法官的司法认知带来前所未

有的挑战ꎮ法官决策的过程需要对诉讼参与人的身份、行为事实和法律规范加以认知ꎬ“深度伪造”技术不仅

会弱化法官认证在线诉讼参与人身份的能力ꎬ而且也会降低法官基于直觉和逻辑认定行为事实的能力ꎮ为

此ꎬ司法机关需要重塑在线诉讼身份认证规则ꎬ通过司法直觉的理性融入以及似真推理的融贯性来积极回应

“深度伪造”技术带来的冲击ꎮ

关键词:“深度伪造”技术ꎻ法官ꎻ身份认证ꎻ司法叙事

－－－

中图分类号:Ｄ９２５文献标志码:Ａ文章编号:１００２４６２(２０２３Ｘ)

２０２３年５月内蒙古自治区包头市公安局电

一、“深度伪造”技术的内涵及特征

信网络犯罪侦查局发布一起使用智能ＡＩ技术进

行电信诈骗的案件信息ꎬ犯罪嫌疑人通过智能ＡＩ“深度伪造”技术对法官认知的冲击与其技

换脸和拟声技术ꎬ佯装成好友通过微信视频聊天术发展特征紧密相关ꎮ与传统伪造技术相比ꎬ

ꎮ消

骗取某科技公司法人代表郭某４３０万元[１]“深度伪造”技术借助人工智能所创建或改造的

息一经发布ꎬ引发了全网轰动和社会公众的广泛视听记录几乎可以实现“以假乱真”的效果ꎬ且从

关注ꎮ事实上ꎬＡＩ诈骗早已在多地案发多起ꎬ且技术上难以做到完全予以鉴别ꎮ

正在全国甚至全世界呈爆炸式增长ꎮＡＩ诈骗是(一)“深度伪造”技术内涵厘定

“深度伪造”技术发展的产物之一ꎬ除诈骗犯罪之“深度伪造”技术目前在国际上还没有形成

外ꎬ“深度伪造”技术也给传播淫秽物品、敲诈勒统一的定义ꎮ在我国ꎬ理论上有观点认为ꎬ“深度

索等违法犯罪行为提供了便利ꎮ“深度伪造”是伪造”技术是利用神经网络进行大样本学习ꎬ将

随着人工智能的发展而出现的技术ꎬ它已经发展作为素材的图片或者音视频合成到其他图片或者

为包括视频伪造、声音伪造、文本伪造和微表情合ꎮ也有观点

音视频上ꎬ生成新的图片和音视频[３]

ꎮ“深度伪造”技术

成等多模态视频欺骗技术[２]

认为ꎬ“深度伪造”技术是计算机“深度学习”和

不仅冲击着传统“眼见为实”“有图有真相”的大“伪造”结合的产物ꎬ通过人工智能来制作虚假的

众认知模型ꎬ也对以图片、视频为重要媒介的法官

视频或音频ꎬ或者对原本真实的视频或音频的内

认知带来了前所未有的挑战ꎬ亟待司法机关作出ꎮ两种

容进行修改ꎬ呈现与真相不符合的状态[４]

有效回应ꎮ