使用AI对抗信息传播混乱：以ChatGPT为例的谣言检测和阻断.pdf

第21期(总第843期)科学咨询科技前沿

使用AI对抗信息传播混乱：

以ChatGPT为例的谣言检测和阻断

1*2

董晨妍，黄晁

（1.宁波卫生职业技术学院，浙江宁波315100；

2.宁波中国科学院信息技术应用研究院，浙江宁波315100）

摘要：本文探讨了人工智能对话系统ChatGPT在阻断谣言传播中的作用。在现代社会，谣言的传播带来了

严重的社会问题。ChatGPT作为一种基于深度学习的自然语言处理工具，被视为有效应对这一问题的新型工具。

本文分析了谣言的特征和传播机制，介绍了ChatGPT的基础知识和运行原理，重点讨论了ChatGPT在阻断谣言中

的作用，包括对文本的分析和理解、情感分析和主题建模，以及实时查询和验证，对ChatGPT生成的自然语言反

馈进行了探讨。尽管ChatGPT在阻止谣言传播方面具有潜力，但也面临着一些挑战，需要持续地优化和改进。本

文为利用AI技术阻断谣言提供了新的视角和思考。

关键词：ChatGPT；谣言阻断；深度学习；传播机制

随着人工智能（AI）技术的发展和普及，其在多个渠道，如事实核查网站和新闻机构的辟谣报道，但这

领域的应用也愈发广泛。本文将探索AI在阻断谣言传些在处理大量、快速传播的社交媒体谣言时往往显得

播中的作用，特别是以OpenAI开发的ChatGPT为代表力不从心。在这样的背景下，AI技术作为新生力量对

的对话型AI系统。聊天生成预训练转化器ChatGPT是阻断谣言的传播蕴含巨大潜力。作为一种先进的对话

由美国初创公司OpenAI在2015年设计的，自2022年12型AI，ChatGPT具备深度理解和生成自然语言的能力，

[1]

月6日正式推出以来，在短短一个多月内就拥有了100在识别和阻断谣言上有独特优势。通过训练和学习，

万用户，成为人们讨论的热点话题。ChatGPT作为基于ChatGPT可以从大量文本中获取知识，理解文本语言

深度学习的自然语言处理（NLP）工具，已被广泛应用的微妙之处，判断信息真伪，从而生成易于理解的、事

于如客户服务、个人助手、内容生成等领域，然而其在实基础的反馈。这使得ChatGPT成为阻断谣言传播的

信息真实性验证和谣言阻断方面的潜力还远未被充分有力工具。

挖掘。在社交网络中，谣言的传播速度和范围已经远一、谣言传播的特征和机制

超过现实社会。谣言不仅会扭曲公众对于重要事件和谣言，一词来源于拉丁语“rumor”，通常被定义为

问题的理解，而且可能煽动社会恐慌，影响公众的决在证据不足或无法验证的情况下广泛传播的信息。谣

策和行为。因此，如何有效地阻断谣言的传播，是现代言通常包含具有吸引力或者说是引人注目的内容。这些

社会面临的一项重要挑战。虽然现存有许多传统辟谣内容往往涉及人们关注的社会问题或事件，有时可能

涉及某种社会恐惧或期待，从而使谣言具有较高的新

基金项目：本文系浙江省社科规划课题成果、2024闻价值。在社交网络中，信息可以迅速地从一个节点传

年度浙江省哲学社会科学规划常规课题“基于深度学习播到另一个节点。这使得谣言可以在短时间内扩散到

[2]

的高校学生心理健康状况时空预测与差异化干预策略研大范围。

究”（编号：24NDJC247YBM）。在社交媒体环境下，谣言的传播机制具有独特的

作者简介：规律和特性。社交媒体的