生成式人工智能热潮下深度伪造治理策略探析.pdfVIP

2025年第11期数字治理与数字经济

生成式人工智能热潮下深度伪造治理策略探析

令宇豪1 张文俊1 李若源2

1.国家计算机网络应急技术处理协调中心陕西分中心，陕西，西安，710075；2.斯德哥尔摩大学法学院，瑞典，

斯德哥尔摩，SE-106

91

摘要：[研究目的]在生成式人工智能快速发展的背景下，深度伪造技术（Deepfake）已

从数字娱乐工具演变为具有显著级联效应和系统性危害的新兴社会风险源。其影响贯穿微观

个体权益、中观社会秩序乃至宏观国际政治格局，形成跨领域、跨层级的风险扩散路径。因

此，通过系统分析国际经验与本土实践，对于完善我国深度伪造治理举措，构建兼顾安全与

发展的治理体系具有重要意义。[研究方法]通过构建“技术—制度—社会”三维分析框架，

系统阐释深度伪造级联风险的生成机制与演化路径，基于比较研究法与案例分析法，聚焦美

国、欧盟和中国三大主要行为体，从技术研发、内容创作、信息流通与社会协同四个维度，

梳理其在深度伪造全生命周期治理中的策略差异与实践特征。对比不同监管框架的优劣，识

别共性困境与制度瓶颈，为优化治理路径提供实证基础。[研究结论]美国、欧盟和中国三

大行为体治理路径虽各有侧重，但均面临级联风险识别滞后、规则碎片化、治理效能碎片化

等问题。我国应通过创新“技术嵌入型”治理范式，推动检测识别、溯源阻断与合规科技协

同发展；完善制度体系，细化平台规制，强化事后救济；构建政府主导、平台尽责、行业自

律、公众参与的多元协同共治体系等方式，实现深度伪造技术的“善治”。

关键词：深度伪造；监管；级联风险；全生命周期；风险治理；人工智能

中图分类号：D93/97；G206 文献标识码：A DOI：10.19881/ki.1006-3676.2025.11.08

深度伪造技术（Deepfake）正以前所未有的速度重塑数字生态的安全边界和信任基础，奇安

[1]

信发布的《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈暴增了3000%，这

一趋势在生成式人工智能浪潮下愈发显著：GPT-4、DALL-E3、Sora等多模态大模型显著降低了伪

造内容的生产门槛，而高度逼真的生成效果则大幅提升了识别难度。深度伪造技术已从初始的数

字娱乐工具演变为具有级联效应（CascadeEffects）的系统性风险源，其影响贯穿微观个体权益、

中观社会秩序乃至宏观国际政治格局，形成跨领域、跨层级的风险扩散路径。

学术界对深度伪造治理的研究呈现三方面特征：其一，技术治理路径聚焦于被动检测算法

（如卷积神经网络、生物信号分析）和主动防御技术（如数字水印、区块链存证）的开发优化，

但面临检测精度不足和算法泛化能力有限的瓶颈[2]；其二，法律规制研究多集中于特定应用场景

作者简介：

令宇豪，硕士，助理工程师，研究方向为网络安全、非传统安全。张文俊，硕士，高

级工程师，研究方向为网络与信息安全。李若源，硕士研究生，研究方向为国际法。

63

2025.11

的立法回应，如美国针对选举干扰和色情内容的州立字生态存在三重脆弱性：其一，认知脆弱性，公众数

法实践，欧盟《人工智能法案》（TheEUArtificial字素养不足导致虚假信息易感性增强；其二，制度脆