人工智能 安全治理 生成合成内容标识管理能力评估指南标准化发展研究报告.docx

人工智能安全治理生成合成内容标识管理能力评估指南标准化发展研究报告

ArtificialIntelligence—SecurityGovernance—AssessmentGuidelinesforLabelingManagementCapabilityofGeneratedContent

摘要

随着生成式人工智能技术的迅猛发展，人工智能生成合成内容（AIGC）在文本、图像、音频、视频等多模态领域的应用日益广泛，由此带来的虚假信息传播、深度伪造、知识产权侵权等安全风险引起社会各界高度关注。建立健全生成合成内容标识管理制度，是防范人工智能安全风险、维护网络空间秩序的关键举措。本报告围绕通信行业标准制定计划项目《人工智能安全治理生成合成内容标识管理能力评估指南》（计划编号：2026-0085T-YD）展开，系统阐述了该标准的制定背景、技术框架、核心内容及实施意义。该标准由工业和信息化部电子第五研究所牵头，联合浙江大学、北京快手科技有限公司、科大讯飞股份有限公司共同起草，归口于全国通信标准化技术委员会人工智能标准化技术委员会，主管部门为科技司，网络安全管理局为参与司局。标准拟规定生成合成内容标识管理能力的评估指标体系、评估方法、评估流程及分级判定准则，适用于生成式人工智能服务提供者、内容平台运营者及相关监管机构开展标识管理能力评估工作。本报告认为，该标准