生成式人工智能虚假信息的舆论生态挑战与治理进路.pdfVIP

山东大学学报（哲学社会科学版）2025年第1期第155-164页

生成式人工智能虚假信息的

舆论生态挑战与治理进路

张文祥

摘要：生成式人工智能虚假信息对舆论生态和话语秩序构成了严峻挑战，割裂着舆论事实的认知图景、操纵

着舆论话语的公共导向、绑架着舆论价值的社会信任。在群体武器、时空脱域、数据围猎的三重作用下，舆

论生态出现异化，呈现出舆论载体“武装化”、舆论主体“脱域化”、舆论客体“失控化”的特征。生成式人工智

能虚假信息对舆论生成和走向的设置会分割舆论主流观点、控制舆论传播路径、诱发新型舆论风险，主要表

现为公权力受到遵循资本与技术逻辑运作的私权力挟持，定制化的情感偏向信息营造虚假意见环境，虚假

视觉信息生成引发舆情并误导舆论走向。生成式人工智能虚假信息的舆论治理应以数据基础设施的统合

实现“中台”治理，发挥多元主体的侧芽效应以破解顶端优势带来的治理困局，构建以“FAITH”为核心要素

的治理体系以消除新型舆论治理的悬浮状态，重构生成式人工智能下的舆论结构和社会实践。

关键词：生成式人工智能；虚假信息；舆论生态；智能传播；舆论治理

DOI：10.19836/ki.37-1100/c.2025.01.013

随着生成式人工智能（generativeartificialintelligence，缩略为GAI）对人类传播格局的深度嵌入，

技术已升级为行动主体，同人类发挥着主体间性的关系映射。作为颠覆性技术媒介的生成式人工智

能，以其强大的信息资源分配能力和数字权力，进一步验证了施蒂格·夏瓦（StigHjarvard）的“媒介

化”（mediatization）理论，即媒介将自身建构为一种半独立（semi-independent）的制度，介入不同的社

会机制和文化现象，引发制度语境的结构性改变。在此过程中，媒介与政治、经济体系深度交融，成为

共同影响社会的关键力量。媒介逐渐建构起独特的物质和符号资源的分配方式以及游移于规则内外

①

的运作模式，形成契合制度主义传统范式的“媒介逻辑”（medialogic）。作为新型智能媒介的生成式

人工智能，使人类社会结构面临新的“媒介化”，因其自身独特的技术逻辑和运算性质形成独有的媒介

逻辑，本文将其指称为“GAI逻辑”。这种逻辑以特有的数据流形式编织信息形构的世界图景，通过算

法与算力的架构运作来操作媒介社会的可见性差异，以造成社会认知、价值与意义的“GAI偏向”，对

人类的思维与信息秩序产生重置式影响。生成式人工智能因与政治、经济、文化高度交融互嵌，不可

避免地受到人类意图的操纵和影响，从而生发“真实遮蔽”现象。海德格尔认为，现代技术的本质是

②

“促逼”（herausfordern），居于“座架”（gestell）之中，而这种促逼使得人被“摆置”（stellen）。作为“座

架”的生成式人工智能摆置着现有信息秩序，调动并更迭了虚假信息的生产与分发机制，重新对虚假

信息的生产主体赋权，对虚假信息的传播效果赋能，将断裂性的真实嵌入到舆论演化的意义空间，促

成虚假信息对舆论生态的扰动。在生成式人工智能下的虚假信息生产、分发、消费过程中，真实人类

山东大学文化传播学院新闻传播学研究所研究助理沈天健对本文有实质性贡献，特此致谢。

基金项目：国家社科基金重大项目“互联网环境下新闻理论范式创新研究”（21ZD318）、“人工智能时代的新闻伦理与法规”

（18ZDA308）。

作者简介：张文祥，浙江大学网络空间安全学院、浙大宁波理工学院传媒与法学院双聘教授，博士生导师，浙江大学网络空间国

际治理研究基地秘书长（杭州310058；zhangwenxiang@zju.）。

①施蒂格·夏瓦：《文化与社会的媒介化》，刘君等译，上海：复旦大学出版社，2018年，第4—22页。

②《海德格尔选集》，孙周兴译，上海：上海三联书店，1996年，第933—935页。