生成式人工智能视域下虚假信息的层级化运作机理与治理_周妍.pdfVIP

生成式人工智能视域下虚假信息的

层级化运作机理与治理

◎周妍，沈天健

（山东大学文化传播学院，山东威海264200）

【摘要】

生成式人工智能在信息生产和传播中的应用促使信息秩序发生变迁，极大地便利了虚假信息的生成与传播。文

章聚焦生成式人工智能视域下虚假信息的运行机理，主张对其实施层级化精准治理，即在创设层注重把关，以链式监

测、分级管理的数据准入制度，共创新型把关进路，将虚假信息抑制在源头；在撒播层注重研判，消除对话界面所置入

的虚假信息落点，并对创设层中浮现的虚假信息进行信息标签的显性呈现与数字水印的隐性嵌入，将虚假信息困囚于对

话界面之中，形成扩散阻碍；在流通层注重处置，消除虚假信息的可见性，优化算法对虚假信息的自动化决策过程，借

助政府、媒体等公共力量，释放真实透明的媒介信息，形成机动化的虚假信息遮蔽机制，强化信息治理效能。

【关键词】

生成式人工智能虚假信息信息治理Sora

【中图分类号】【文献标识码】【文章编号】

G206Ａ1003-6687（2024）8-075-09

【DOI】10.13786/14-1066/g2.2024.8.010

一、生成式人工智能视域下虚假信息对信合信息真实性的过程中出现技术性断裂；在导向性层

息格局的深刻介入面，虚假信息的文本意义导向错误的现实与偏误的认

互联网是人类生成、交互和存储信息的核心场域，知；在建构性层面，信息与真实间建构起错误的联系导致

媒介技术的深入发展使得线上与线下趋于融合、现实与虚假性生发，错误的建构割裂了虚假信息的意义真实性。

虚拟交织缠绕，虚假信息在网络场域中裂变生产、扩散当生成式人工智能深嵌于智能传播格局之中，互联

传播。与之相应，规制虚假信息的生产、传播与消费成网信息秩序在技术促动下发生巨大转向，对信息传播全

为全球信息治理的重要着力点。过程产生颠覆性影响，[2]对于生成式人工智能行为意义

当前，学界对虚假信息、误导信息、谣言等异质性的探赜成为智能传播时代传播学研究的新问题。与之相

信息的概念界定较为混杂，本文出于论述简便性，不应，虚假信息的传播面向呈现出新情境——虚假信息的

做复杂辨析，均使用“虚假信息”概念展开探究。虚生成传播主体由以真实人类用户为主导者转向智能技术

假信息是信息的否定形式，意味着“信息完整性的断深度介入下的行动者，机器由媒介而升格为重要传播

裂”，[1]从生成式人工智能论域下进行观照，虚假信息者，人工信息的生产与分发在生成式人工智能浪潮下彻

包含技术性、导向性、建构性三个层面的完整意义，即底失去支配地位。

在技术性层面，虚假信息由数据与算法架构而生，在组有学者将生成式人工智能引发的虚假信息风险分为

基金项目：山东省社会科学规划项目“网络叙事的底层群体主体化及其对互联网舆论的影响研究”（23CXWJ07）；教育部人文

社会科学重点研究基地重大项目“国家治理体系现代化中的传媒治理研究”（22JJD860016）

作者信息：周妍（1982—），女，河南开封人，山东大学文化传播学院副教授、硕士生导师，主要研究方向：媒介文化、网

络治理；沈天健（1993—），男，山东济宁人，山东大学文化传播学院新闻传播研究所助理研究员，主要研究方向：媒介文

化、网络治理。

0752024.8传媒2024.8传媒075

积极生成型风险、消极生成型风险和人为操纵型风险三对计算机的社会化反应，提出“计算机为社会行动者”

种，认为生成式人工智能引发虚假信息危害的因素极为（CASA）范式，证明了人与计算机的交互本质上是社

复杂。[3]生成式人工智能在技术性层面会将