人工智能时代的网络舆论暴力治理.pdfVIP

专题研讨·网络生态治理 ● 罗 昕 陈静淑 人工智能时代的网络舆论暴力治理 摘 要：人工智能时代网络舆论暴力具有新的表现特征，如暴力空间的滋长、传播 速度的加快，以及对用户的标签化分类。究其根源，网络舆论暴力的生成存在多重动因： 如技术环境方面算法权力重构了网络空间秩序；社会环境方面，群体极化心理加速了暴 力的扩散；媒介环境方面，传统把关人的缺位推动暴力升温。对此，平台应打破“算法 黑箱”，多元优化算法机制；政府应着力优化监管环境，完善相关法规政策；个人应发挥 主体作用，提升个人媒介素养，从而形成网络舆论暴力的多元治理格局。 关键词：人工智能；算法；网络舆论暴力；网络治理 网络舆论暴力是一种软暴力手段，施暴者往往通过 另一方面，算法技术在网络信息来源的环节中越来 发布虚假消息、公布他人隐私、放大社会情绪或制造网 越多地应用，机器人写作、自动化新闻、算法新闻等相 络舆论，形成网络言论压力，进而引发网络舆论空间的 继出现，成为网络空间中独立于传统媒体和政府之外的 集体偏向，使施暴对象受到精神困扰甚至身体伤害。随 重要消息源，这意味着算法具备了形成新的社会情感表 着算法和人工智能技术的发展，当前网络舆论暴力形式 达和舆论空间的能力。目前，计算宣传作为一种操纵网 变得更加复杂多样，包括心理压迫、身体暴力、身份边 络舆论的新形态，可以通过伪造信息或活动“制造同意”， 缘化、言论管束、网络骚扰等。与此同时，针对网络舆 产生“虚假民主”；通过“两极分化”扰乱公共领域，撕 论暴力的治理也变得更加困难。 裂社会共识 [2]，加剧了信息来源的复杂性及新闻真实性的 把控难度，使得网络舆情数据呈现出一定程度上的失真。 人工智能时代网络舆论暴力的主要特征 （二）算法逻辑放大并加速网络舆论暴力的传播 随着算法技术的发展和社交媒体的兴起，基于算法 在智媒环境中，互联网的高传播速率可以跨时空地 的个性化内容分发及社交链条圈层式传播开始代替传统 使舆论信息快速地在网络中扩散，而平台算法逻辑的应 的单向传播链条，成为当前内容传播的主要方式。网络 用，更是加剧了这种舆论传播效果 [3]。当热点事件经由 舆论暴力也随之呈现新的特征。 智能算法即时推送给网络社区的用户后，网民会首先找 （一）算法技术滋生网络舆论暴力空间 到一个对象进行怀疑批判，并以此为基础开始聚合用户 随着大数据的多元汇聚和计算能力的不断进步，算 群体。当相同价值偏好的意见被算法集中到一起时，群 法新闻、算法经济、算法伦理等新兴概念出现。“作为权 体的意见和情绪开始被进一步强化，并反映到实际的网 力的算法”的观点已得到越来越多学者的关注。 络舆论暴力行为中，通过谩骂、诽谤、人肉搜索等行为 一方面，算法技术构造了网络信息交互空间，并为“网 得到释放。而这一切过程的快速形成均是在确认事实真 络暴力”的产生提供了一个主体多元、责任分散的舆论 相之前。算法并不会判断信息的真伪，其本质是商业逻辑， 场域 [1]。针对网络暴力的各种具体行为，无论是暴力语言、 只要是符合流量规则的信息都会被第一时间推送给用户。 暴力行为，还是隐私披露，都需要一定的公共空间来进 最终导致群体的情绪意见极化形成网络舆论暴力，甚至 行呈现。而经由算法构造的网络信息交互系统正提供了