算法认知战中的社交机器人运作机制、挑战与应对.pdfVIP

新媒体研究

XINWENAIHAOZHE（2025·3）

算法认知战中的社交机器人运作机制、挑战与应对

□马立明陈青

【摘要】在国际政治博弈过程中，基于网络技术和人工智能的算法认知战已经成为“计

算宣传”中的重要环节。作为高新科技的“社交机器人”，在实现信息武器化之后，被用于网

络舆论战后成为出没于民间网络、引导人类认知的隐蔽力量。现通过俄乌冲突等案例揭示

在计算宣传过程中社交机器人的动向与运作机制。同时，也对社交机器人对国家安全的挑

战提出思考，探索相关的治理之道。

【关键词】社交机器人；算法认知战计算宣传；国家网络安全

一、问题的提出散布各种信息，形成己方的道德优势，同时削弱对

手士气。《孟子·离娄上》有云：“得天下有道，得其

俄乌冲突被认为是互联网诞生以来第一场真正民，斯得天下矣。”传播学奠基人之一的拉斯韦尔

意义的网络时代战争，负责制造舆论的“笔杆子”在（HaroldLasswell）在将“战争宣传”定义为“操纵表

［1］

战场中发挥了不亚于地面战的重要作用。开战的述来影响人们行动的技巧”，指出宣传策略也是一

［3］

头三个月，乌克兰安全局摧毁了俄罗斯十几个对社种制胜的武器。随着人类生活越来越向互联网倾

交机器人账号进行管理的机器人农场，同时抵御了斜，多项网络新技术包括人工智能、算法推送、深

250多次网络攻击。这些机器人农场集中在哈尔科伪、VR/AR、短视频等，悉数被军事化和武器化，成

夫、切尔卡西亚、捷尔诺波尔等地，使用了超过10万为计算宣传矩阵。伍利（SamuelC.Woolley）和霍华

个虚假用户，超过100个GSM网关设备、近万张SIM德（PhilipN.Howard）在2016年提出“计算宣传”的

卡等。乌克兰一方也使用了社交机器人相关技术，概念，将其描述为“以在社交媒体网络上故意散布

如人工智能程序GPT-3模型网络，它具有1750亿个误导信息为目的，使用算法、自动化和大数据分析

［4］

参数的自然语言深度学习模型，有能力影响目标人等方式操纵公众舆论”。计算宣传兼具技术和社

群。美国在科技上全力援助乌克兰，因此乌克兰一会双重属性，技术属性来源自以人工智能、算法为代

方拥有的社交机器人技术与规模极有可能超越了俄表的现代信息传播技术（ICT）的发展，而社会属性则

罗斯的捕获能力。植根于“宣传”控制舆论的内涵。计算宣传基于算法

在现实主义逻辑凸显、对抗性日益突出的国际运作机制，发展出制造利己趋势、消除不利声音和推

政治领域，国家之间多层次多维度的算法认知战（al⁃荐垃圾信息等基本形式。

gorithmiccognitivewarfare）融入广义的宣传战之中，当国际关系趋于紧张化，国家之间相互的计算

成为“计算宣传”（ComuputationalPropaganda）的重要宣传也会变得越发激烈，有可能会引发算法认知

环节。在网络战争中，谁掌握了网络，谁就会获得更战。所谓认知战，是指个体信息获取、存储、提取和

［2］

大的优势。社交机器人（Socialbots）是人工智能的应用的心理过程，具体包括个体思考抽象事物的能

产物之一，它经过人工编程后可直接与用户互动交力和解决实际问题的能力，即个体信息加工（infor⁃

［5］

流。近年来，出于不同目的设计的社交机器人潜伏mationpro