大模型视听内容生成安全评估研究与系统设计.pdfVIP

人工智能

ArtificialIntelligence||

2024年增刊1

DOI:10.16045/ki.rti.2024.s1.002

大模型视听内容生成安全评估研究与系统设计*

文│国家广播电视总局广播电视科学研究院李继龙郝洺

贵州省广播电视信息网络股份有限公司常开田

摘要：本文分析了生成式人工智能视听内容生成系统的风险，介绍了一种对大

模型系统的风险进行外部评估的方法，主要包括风险提示词、内容水印标准、内容

检测评估等手段，并详细设计了基于上述方法的大模型视听内容生成安全评估系统

设计架构和功能。

关键词：大模型视听内容安全评估提示词内容水印

1引言的特性来进行安全评估，并设计了基于上述方法的大模