生成式人工智能（AIGC）的内容安全、深度伪造检测与溯源技术.docx

PAGE2

《生成式人工智能（AIGC）的内容安全、深度伪造检测与溯源技术》

一、调研概述

1.1调研背景与目的

生成式人工智能的爆发式增长正在重塑数字内容生态，从文本、图像到视频，AI生成内容已渗透至社交媒体、新闻报道、金融风控、司法取证等多个领域。OpenAI的GPT系列、各类扩散模型与神经辐射场技术的成熟，使虚假信息制造的成本趋近于零，深度伪造（Deepfake）攻击频次年均增长超过300%。

深度伪造技术不仅被用于伪造名人讲话、篡改监控证据，更出现了以“AI换脸”实施的电信诈骗，2023年某跨国公司香港分公司即因伪造的CEO视频会议指令损失2亿港元。在此背景下，保障内容真实性、