《生成式人工智能多模态合成数据鉴别的安全技术规范》编制说明.docx

2

《生成式人工智能多模态合成数据鉴别的安全技术规范》编制说明

一、标准制定的必要性

随着ChatGPT、DeepSeek等生成式人工智能和多模态大模型技术的快速发展，人工智能在文本、图像、音频、视频等多种模态内容生成方面的能力显著提升，合成数据在信息传播、内容生产和智能应用中的占比持续上升。在推动数字经济和智能社会发展的同时，多模态合成数据被滥用所引发的安全风险、信任风险和治理风险日益凸显，对国家安全、社会稳定和公共治理体系构成了新的挑战。

一方面，生成式人工智能模型能够高质量生成与真实数据高度相似的多模态内容，使得虚假信息、深度伪造、身份冒用、舆论操纵等风险呈现