原创力文档摘要
摘要
近年来，生成式图像模型在内容生成领域得到广泛应用。然而，随着这些技术的迅速
发展，生成式图像模型的安全性问题逐渐成为亟待解决的关键课题。尽管目前主流的生成
模型在安全性方面已经引入了显式关键词过滤和基于人类反馈的安全审查机制，但随着恶
意攻击手段的不断升级，这些现有防护措施逐渐暴露出局限性，尤其是在面对“隐式提
示”——即精心构造的不直接表明意图的提示语时，模型的安全防护体系更容易被绕过，诱
导模型生成潜在不安全的图像
摘要
摘要
近年来，生成式图像模型在内容生成领域得到广泛应用。然而，随着这些技术的迅速
发展，生成式图像模型的安全性问题逐渐成为亟待解决的关键课题。尽管目前主流的生成
模型在安全性方面已经引入了显式关键词过滤和基于人类反馈的安全审查机制，但随着恶
意攻击手段的不断升级，这些现有防护措施逐渐暴露出局限性，尤其是在面对“隐式提
示”——即精心构造的不直接表明意图的提示语时，模型的安全防护体系更容易被绕过，诱
导模型生成潜在不安全的图像
文档评论（0）