由 LLM 驱动的社交媒体机器人是现实存在的吗？.pdfVIP

由LLM驱动的社交媒体机器人是现实存在的吗？

LynnetteHuiXianNgandKathleenM.Carley

CarnegieMellonUniversity,PittsburghPA15213,USA

lynnetteng@,kathleen.carley@

摘要随着大型语言模型（LLMs）变得更加复杂，有可能利用LLMs来驱

动社交媒体机器人。这项工作调查了生成由LLM驱动的社交媒体机器人

群网络的真实感。通过结合手动努力、网络科学和LLMs，我们创建合成

的机器人代理人物、他们的推文及其互动，从而模拟社交媒体网络。我们

本将生成的网络与实证中的机器人物/人类数据进行比较，观察到由LLM驱

译动的机器人的网络和语言特性与野生机器人/人类有所不同。这对于检测

中和评估由LLM驱动的机器人的有效性具有重要意义。

1

vKeywords:机器人·大型语言模型·生成式人工智能

8

9

91介绍

0

0

.社交媒体机器人是人工智能（AI）代理，它们是社交媒体生态系统的

8

0重要组成部分，因为它们可以显著影响信息传播模式。它们在促进救灾和

5防止虚假信息传播方面发挥着双重作用[12]。许多这些有害的机器人都是人

2

:工构建的，比如中国的50c军和俄罗斯的水军工厂。然而，生成式人工智能

v

i（GenAI）工具如大型语言模型（LLMs）已被证明能够创建现实的对话文本

x

r以参与数字讨论。OpenAI报告称，其LLM被用于生成针对特定国家和地

a

区主题的社会媒体营销材料[3]。这些由LLM驱动的机器人能够生成具有复

杂沟通模式的高质量内容，这将使虚假信息的检测更加复杂[15]。

基于代理的模型（ABM）一直是模拟社交网络并理解数字环境中集体

行为的经典方法。诸如巴拉巴西-阿尔伯特优先连接模型之类的模型已为网

ThismaterialisbaseduponworksupportedbytheScalableTechnologiesforSocialCybersecurity,

U.S.Army(W911NF20D0002),theMinerva-Multi-LevelModelsofCovertOnlineInformation

Campaigns,OfficeofNavalResearch(N000142112765),theThreatAssessmentTechniquesfor

DigitalData,OfficeofNavalResearch(N000142412414),andtheMURI:Persuasion,Identity

MoralityinSocial-CyberEnvironments(N000142112749),OfficeofNavalResearch.Theviews

andconclusionscontainedinthisdocumentare