生成式人工智能引发的内容风险及治理对策.pdfVIP

前沿FRONTIER

生成式人工智能引发的内容风险

及治理对策

■文/刘颖、卢超男

摘要

生成式人工智能被广泛应用于内容领域，人工智能生成内容呈现爆发式增长。

然而，生成式人工智能在赋能内容创作的同时，也带来了加速虚假错误信息生成、

舆论操纵、价值渗透等新的内容风险，对当前的内容审查和监管机制提出了更

高要求。本文从内容生产、内容传播和社会影响三个维度，分析生成式人工智

能引发的内容风险，并从制度、技术、国际合作、公民素养等四个层面，提出

了监管思路与治理建议。

14机器人产业|ROBOTINDUSTRY

生成式人工智能引发的内容风险及治理对策

着互联网的发展，网络空间的内方法，基于内容和流程采取自上而下、

容输出形式不断变革，发展形集中管理、层层把关的方式实现；UGC

随

成了专业生产内容（PGC）、和OGC模式采用的是“平台把关、政

用户生产内容（UGC）和职业生产内容府监管、用户自律”的治理路径。三种

[1]

（OGC）等三种内容生产机制。自2022内容治理方式均遵循价值判断与真伪判

年末ChatGPT发布以来，各种各样的生成断二元分流的治理逻辑。在生成式人工

式人工智能被广泛应用于社交媒体、新闻智能技术广泛兴起之前，机器生成的内

报道、艺术创作等领域，内容生产和传播容相对较少，通常将人工智能生成的内

进入了由数据和人工智能技术驱动的全新容默认为伪内容[5]。然而，人工智能生

时代，内容生产机制再次迎来重大创新，成内容的海量增长，对内容监管提出了

人工智能生成内容（AIGC）呈现指数级增更高的要求，现有治理思路恐将难以应

长。哥本哈根未来研究所（CIFS）预测，对由生成式人工智能技术引发的新的内

若生成式人工智能产品得到广泛应用，则容风险。结合上述背景，本文从生成式

到2030年，99%以上的互联网内容将由人人工智能的原理出发，试图从内容生产、

工智能生成[2]。内容传播和社会影响三个维度，阐述生

生成式人工智能技术优化了信息挖掘、成式人工智能引发的内容风险，探索应

素材调用等环节，提高了内容生产传播效率，对的监管思路与治理建议。

还从质量方面创新了内容生产流程和规范。

但与此同时，生成式人工智能技术的广泛兴生成式人工智能的原理

起也带来了一系列风险和挑战。由于相关技

术所生成的音视频与图像内容已经达到了高生成式人工智能通常是指基于

度逼真的程度，可能涉及隐私、虚假信息等Transform、Diffusion等算法模型，在海

法律和伦理问题，极易沦为虚假新闻和网络量语料预训练的基础上，经过微调、人类

流