技术黑箱与规则重构：刑事诉讼中深度伪造证据的审查困境及路径选择.pdfVIP

【法学理论研究】

技术黑箱与规则重构:刑事诉讼中深度伪造证据的

审查困境及路径选择

潘金贵ꎬ杨洪彬

(西南政法大学ꎬ重庆４０１１２０)

〔摘要〕随着生成式人工智能技术的快速发展ꎬ深度伪造技术在刑事诉讼中的滥用对传统

证据审查体系构成严峻挑战ꎮ技术黑箱特性导致证据真实性存疑、算法与司法审查权的结构性冲

突以及现行法律规范与技术发展的脱节ꎮ深度伪造证据通过高度仿真的视听内容突破传统伪证

识别逻辑ꎬ引发真实性审查标准模糊、技术依赖症加剧司法权让渡、证明责任分配失衡及证据链断

裂等系统性风险ꎮ为应对上述风险挑战ꎬ亟须构建“制度—技术”协同治理框架:推动深度伪造技

术专项立法ꎬ确立高风险场景下的强制标识与溯源义务ꎻ设计分层式审查模式ꎬ强化生成环境日志

备案与算法透明度要求ꎻ创新证明责任分配机制ꎬ建立“技术质疑触发举证转移”规则ꎻ完善人工智

能服务商行业规范ꎬ实施全链条算法审计制度ꎻ引入专家辅助人与技术调查官协同审查机制ꎬ弥补

司法技术认知鸿沟ꎮ

〔关键词〕深度伪造ꎻ证据审查ꎻ技术黑箱ꎻ算法审计

〔基金项目〕本文系２０２５年重庆市研究生科研创新项目“数字检察视域下涉案财产全过程同

步审查机制研究”(项目编号:ＣＹＳ２５２３６)的阶段性研究成果ꎮ

〔作者简介〕潘金贵(１９７３—)ꎬ男ꎬ贵州毕节人ꎬ西南政法大学法学院教授、博士生导师ꎬ刑法

学博士后ꎬ主要从事刑事诉讼法学、证据法学研究ꎻ杨洪彬(２００２—)ꎬ男ꎬ陕西安康人ꎬ西南政法大

学２０２４级刑事诉讼法学硕士研究生ꎬ主要从事刑事诉讼法学、证据法学研究ꎮ

〔收稿日期〕２０２５－０４－２４

〔中图分类号〕Ｄ９２４.３〔文献标识码〕Ａ〔文章编号〕１００９－１４１６(２０２５)０４－０６９－１０

科技发展日新月异ꎬ人工智能时代的到来给法律规范分析法、案例研究法与比较法等研究方

予现代社会诸多便利ꎬ生成式人工智能技术在图法ꎬ期冀揭示主要矛盾ꎬ为破解深度伪造证据的

像生成、语音合成以及视频生成和编辑等方面得审查困境提供具有法律正当性与技术可行性的

到了广泛运用ꎮ然而ꎬ利用生成式人工智能技术解决方案ꎬ为维护司法公正、平衡技术创新与法

进行自动化的数据修改、处理和生产ꎬ实现图片、

治秩序提供理论价值和实践依据ꎮ

音频及视频智能模拟和伪造的深度伪造(Ｄｅｅｐ￣

ｆａｋｅ)技术给刑事司法带来了前所未有的挑战ꎮ一、问题的提出

深度伪造技术所生成的图片、视频等具有高度逼

生成式人工智能技术的快速发展在社会生

真性和易篡改性ꎬ如果在诉讼活动中得到不法运

活的众多方面得到了应用ꎮ有学者指出ꎬ互联

用ꎬ将导致证据的真实性存疑ꎬ从而威胁司法公

正ꎮ本文围绕深度伪造技术特性阐述深度伪造网、大数据和人工智能等技术的应用ꎬ对证据的

证据的技术黑箱及其引发的司法审查困境ꎬ通过形式和收集方式、证据的分析和解读以及证据可

—６９—

①

靠性和有效性的审查判断提出了新的要求ꎮ伪可以发现ꎬ«中华人民共和国刑事诉讼法»第５０

造图像、视频和语音的深度伪造技术ꎬ给司法工条将“电子数据”列为法定证据种类ꎬ但未明确区

作带来了新的挑战ꎮ随着该技术的不断优化ꎬ实分普通电子证据与深度伪造内容ꎻ«最高人民法

践中出现原始材料与伪造材料真假难辨的现象ꎬ院关于适用‹刑事诉讼法›的解释»第