深度合成技术规制.docxVIP

深度合成技术规制

一、深度合成技术的发展图景与规制必要性

（一）深度合成技术的内涵与应用场景

深度合成技术是指以深度学习算法为核心，通过对现有文本、图像、音频、视频等数据的训练学习，自动生成全新数字化内容的技术集合，既包括大众熟知的AI换脸、语音伪造等应用，也覆盖了生成式文本创作、数字人生成、场景重建等多种技术方向。随着算法性能的提升和应用门槛的持续降低，深度合成技术已经逐步走出实验室，渗透到社会生产生活的多个领域：文娱行业依托该技术完成老影视资料修复、历史人物动态还原、特效内容低成本制作，大幅降低了内容创作的成本；公共服务领域采用数字人主播开展政策解读、政务信息发布，为偏远地区打造定制化数字教师资源，提升了公共服务的覆盖范围和供给效率；工业领域使用深度合成技术模拟生产场景、测试产品性能，有效缩短了研发周期、降低了试验风险。截至近年，国内深度合成相关的商用落地项目已覆盖文娱、教育、政务等十余个核心领域，市场规模年增速保持在百分之四十以上（中国信息通信研究院，2023），已经成为数字经济发展的重要支撑技术之一。

（二）深度合成技术带来的多元风险挑战

深度合成技术的泛在应用在带来发展红利的同时，也因技术滥用引发了一系列不容忽视的风险。首先是民事权益侵害风险，实践中已经出现多起未经许可使用他人肖像制作深度合成视频、伪造他人语音实施诈骗的案例，部分不法分子甚至将深度合成技术用于制作淫秽色情