基于“智能对抗”的生成式人工智能内容治理探究.pdfVIP

专栏·新媒体研究

基于“智能对抗”的

生成式人工智能内容治理探究

●田丽陈馨婕许洁

摘要：生成式人工智能（AIGC）深刻挑战了传播秩序，使传统的内容治理模式显

得捉襟见肘。既有的研究依旧拘囿于从算法、算据和算力的生产逻辑探寻破解内容风险

的路径，提出的方案尽管在理论上具有可行性，但是经济成本过高，且对行政管理提出

更高的要求。本文认为应该充分利用智能技术本身的能力来应对和解决生成式人工智能

可能带来的内容问题，并通过敏捷治理和价值对齐作为“智能对抗”的思想保障和价值

追求，其在AIGC内容风险治理中的应用包括：快速响应、小步快跑、强调团队协作、不

断反馈和改进。此外，还需以高质量数据保障检测模型价值对齐，以实现“智能对抗”。

关键词：智能对抗；AIGC；内容治理；AI治理；敏捷治理

生成式人工智能（AIGC）推动了信息传播革命，的基础架构。即是说，AIGC的生产逻辑依然根植

使AI模仿人类的创造性劳动，产出文本、图像、音于人工智能的三大核心要素：算法、算据和算力。

频等多模态媒介表现形式。然而，AIGC的广泛应用从AIGC的系统要素构成来看，李白杨等指出网

带来了内容安全的严峻挑战，传统的内容治理手段在络形态数据、内容生产关联算法、交互用户、资源

应对AIGC带来的风险时捉襟见肘，迫切需要从理组织平台构成AIGC的基础性要素[3]。由此可见，

论和实践层面探索新技术条件下的内容治理逻辑与AIGC的内容风险包括了传统的网络内容风险，但

路径，以确保AIGC成为助力而非阻力。而这一目也有其自身的特征。

标的实现离不开技术的支持。因此，对以ChatGPT既往传统的网络内容风险约有九大类型：内容

为引领的AIGC内容治理，本研究提出以“智能对抗”低俗化风险、网络暴力风险、虚假信息传播风险、

的形式重构AIGC内容治理的格局，通过“智能对抗”信息操纵风险、网络恐怖主义风险、网络文化入侵

的实现路径，推动结果型与过程型平衡的治理。风险、网络意识形态风险、知识产权风险、侵权风

险。[4]然而，以ChatGPT为代表的AIGC技术，

一、“智能对抗”的必要性

虽然目前在实际应用过程中尚处于风险演进的初期

（一）AIGC的内容风险特征。阶段，但这种无节制的使用可能导致网络内容风险

Bond-Taylor等

的进一步加剧，如虚假新闻[5][6]

学者认为生成式人工智能的本质是对训练样本的分、版权争议、伦理

布状况进行建模，根据模型抽取样本生产内容[1]。损害[7]等。根据AIGC内容生产逻辑，数据、算法、

Ruthotto和Haber等提出AIGC的核心在于模型的用户、平台均在不同层面加剧了这种风险。在数据

能力，它是通过分析和理解数据的内在结构，来自和算法中，由于算法设计或训练数据存在缺陷，使

动创造与训练数据风格一致但内容独特的输出，从得AIGC可能会产生逻辑推理错误的内容[8]，从而

而实现对人类创造性任务的模拟[2]。因此，AIGC