人工智能生成内容标识制度的实践挑战与制度回应.pdfVIP

人工智能生成内容标识制度的实践挑战与制度回应

人工智能生成内容标识制度的

实践挑战与制度回应

□/

文卢怡，苏宇*

（中国人民公安大学法学院，北京100038）

摘要：标识在人工智能生成合成内容治理中举足轻重。标识制度承载着用户辨识内容来源与

真伪、推动版权保护与溯源问责、创建合理透明度并构筑可信内容生态三重意义。然而，目

前标识制度面临价值平衡、义务配置，以及跨境合规等实践挑战，亟须在制度层面予以全面性、

精细化的完善。在标识制度的优化进路中，应发挥集成型规制工具的多种功能优势，分别在

价值层面、技术层面和规则层面进行审慎的价值衡量、精细的义务配置，以及开放的国际合作，

进而逐步完善生成式人工智能的风险治理体系。

关键词：人工智能标识；内容治理；标识制度；集成型规制工具

中图分类号：D923文献标志码：A文章编号：2096-5036(2025)01-0087-16

DOI：10.16453/j.2096-5036.202502

0引言已成为人们广泛关注的问题。在电商销售领

域，不少商家已采用AI模特试穿服装展示商

ChatGPT、Midjourney、Transformer-品，AI生成的试衣宣传图在外观上具有创意

TTS等生成式人工智能（GenerativeArtificial美感和可信赖度，用户因依赖、信任宣传图而

Intelligence）的飞速发展掀起了人工智能的“热情下单”，收到货后却发现AI生成图与实

又一波浪潮。生成式人工智能正在带来颠覆性物严重不符[2]。从人工智能一键“脱衣”制作

的影响，隐而不彰地改变人们获取信息的方式不雅照[3]到利用名人的Deepfakes进行欺诈

[1]。生成式人工智能的复杂性与可访问性的快性促销[4]——辨别人工智能生成物的能力从未

速提高，使得创作者比以往任何时候都更容易如此重要。生成式人工智能带来的最大挑战之

制作出逼真的图像、视频和音频，甚至包括从一是人工智能生成真假难辨的信息，其中包含

未发生过的事件。尽管生成式人工智能带来了的“违法信息”“不良信息”难以被迅速识别，

一系列技术红利，但其生成内容的真伪不明、引发操纵舆论、深度伪造和制造假新闻等严重

良莠难辨，以及扩大错误信息生产传播的潜力问题。

基金项目：国家社会科学基金重点项目（20AZD114）

87

思考与探讨

AI-VIEW

2025年第1期

当前，许多国家正探索将内容披露和标识提出的标识义务存在相似部分，两者本质意义

义务入法，国内外多家互联网公司也逐步推进与底层逻辑都是确保用户及公众能够注意到相

标识嵌入和管理举措，内容标识已然成为全球关内容由人工智能生成或提供，并且一定程度

打击虚假有害信息的通行做法。目前，我国针上为溯源提供便利。然而，两者技术实施及履

对人工智能生成内容的法治建设正在不断推行程度可能存在差异，例如欧盟《人工智能法》

进，其中人工智能生成内容的标识义务要求成明确提出了“机器可读”的要求。因此，我国有

为备受瞩目的焦点。根据《互联网信息服务算必要对此类差异性要求予以重视，以保证人工

法推荐管理规定》（以下简称《算法推荐管理智能生成内容服务全生命周期的整体合规性。

规定》）第九条之规定，算法推荐服务提供者