生成式AI服务管理办法对深度伪造的规制.docxVIP

生成式AI服务管理办法对深度伪造的规制

随着生成式人工智能技术的飞速发展，深度伪造技术凭借其高度逼真的内容生成能力，在影视创作、虚拟交互等领域展现出广阔应用前景，但同时也因被滥用引发虚假信息传播、人格权侵权、电信诈骗等一系列法律与社会风险。为规范生成式AI服务发展，防范技术滥用风险，国家层面出台《生成式人工智能服务管理办法》（以下简称《办法》），将深度伪造作为核心规制对象，构建起全链条、多层次的规制体系。本文结合具体案例与法条规定，深入剖析《办法》对深度伪造的规制逻辑与实践路径，为技术合规应用与法律风险防范提供参考。

一、深度伪造的风险演进与规制必要性

深度伪造技术作为生成式AI的重要分支，通过深度学习算法对图像、音频、视频等信息进行合成编辑，可实现人脸替换、语音模拟、场景重构等效果。其技术门槛的持续降低与应用场景的不断扩展，导致滥用风险呈扩散态势，对个人权益、社会秩序乃至国家安全构成严重威胁。

从实践来看，深度伪造的滥用已渗透至民事侵权、行政违法乃至刑事犯罪多个领域。在民事领域，山东青岛牟女士被AI合成不雅视频事件颇具代表性：牟女士因遭受网友骚扰，发现网络上出现大量利用AI技术恶意合成的虚假视频及面部相似视频，相关内容对其进行侮辱诽谤，严重扰乱其正常生活，构成对肖像权、名誉权及隐私权的多重侵犯。在商业领域，虚假代言乱象频发，英国就曾出现大量深度伪造视频，冒用医生、网红形象篡改其观点，推广保健品销售，传播虚假健康信息，误导消费者决策。在刑事领域，深度伪造技术已成为电信诈骗的新型工具，不法分子通过合成亲友语音、人脸视频实施精准诈骗，导致受害人财产损失；更有甚者批量合成淫秽视频形成黑色产业链，严重破坏网络生态。

在此背景下，对深度伪造进行专门规制迫在眉睫。《办法》的出台并非孤立举措，而是与我国此前的法律规范形成衔接呼应：《民法典》人格权编明确禁止利用信息技术手段伪造他人肖像、声音；《互联网信息服务深度合成管理规定》聚焦深度合成服务的全流程监管；《办法》则立足生成式AI服务的整体框架，进一步细化深度伪造的规制要求，形成“一般规范+特别规制”的立体治理体系，为防范技术滥用提供坚实的法律支撑。

二、《办法》对深度伪造规制的核心制度设计

《办法》围绕深度伪造的技术特性与风险点，构建起以“源头管控、过程标识、责任追溯、多元共治”为核心的规制体系，重点通过以下制度实现风险防范与权利保障的平衡。

（一）明确规制范围与监管对象，实现全主体覆盖

《办法》将深度伪造界定为“利用生成式AI技术制作、复制、发布、传播虚假图像、音频、视频等信息的行为”，明确规制范围涵盖从技术开发、服务提供到内容传播的全链条。在监管对象上，突破传统“仅规制服务提供者”的局限，将技术支持者、服务使用者均纳入监管范畴，形成全主体责任体系。

根据《办法》第七条规定，生成式AI服务提供者应当对生成内容进行审核，对具有深度伪造特征的内容采取相应管控措施；技术支持者在开发、测试相关技术时，应当评估潜在风险，履行安全评估与数据安全管理义务。针对使用者，《办法》第十条要求其不得利用深度伪造技术制作、传播违法信息，且在使用人脸、人声等生物识别信息编辑功能时，应当依法告知被编辑人并取得其单独同意。这一制度设计从“技术源头—服务提供—内容使用”多维度压实责任，破解了此前监管中“责任主体模糊”的难题。

（二）确立标识义务制度，构建内容可识别防线

深度伪造的核心风险在于“以假乱真”，而标识义务则是破解这一问题的关键举措。《办法》吸收《人工智能生成合成内容标识办法》的核心要求，确立“隐式标识为主、显式标识为辅”的双重标识规则，从技术层面实现深度伪造内容的可识别、可追溯。

根据《办法》第八条规定，生成式AI服务提供者生成具有深度伪造特征的内容时，应当在内容中添加不影响使用的隐式标识，该标识应包含服务提供者信息、生成时间等可追溯要素；对于可能引起公众混淆或误认的深度伪造内容，还应当在显著位置添加显式标识，明确提示“该内容为AI生成”。同时，《办法》严禁任何组织和个人删除、篡改、隐匿相关标识，为后续的证据固定与责任追溯提供技术基础。这一制度通过“技术手段解决技术问题”，从源头降低虚假内容的误导性，保障公众的知情权与判断力。

（三）强化数据安全与隐私保护，筑牢源头风险防线

深度伪造的实现依赖大量图像、音频、生物识别信息等训练数据，数据安全与隐私保护是规制深度伪造的源头环节。《办法》结合《数据安全法》《个人信息保护法》的要求，对深度伪造相关的数据处理活动作出严格规范。

《办法》第十一条明确规定，服务提供者、技术支持者收集、使用用于深度伪造技术开发和服务的个人信息，应当遵循“合法、正当、必要、诚信”原则，取得个人的明确同意，且不得超出约定范围使用。针对人脸、人声等敏感生物识别信息，《办法》进一步强化保护力度，要求