网络欺凌检测通过激进增强提示.pdfVIP

网络欺凌检测通过激进增强提示

AishaSaeid,AnuSabu,GirishA.Koushik

FerranteNeriDipteshKanojia

NICEResearchGroupInstituteforPeople-CentredAI,

SchoolofComputerScienceElectronicEngineering,

UniversityofSurrey,UK

{a.saeid,as05318,g.koushik,f.neri,d.kanojia}@surrey.ac.uk

Abstract文化界限的表达成为可能。然而，这些平

台也成为了诸如网络欺凌和在线骚扰等有

检测社交媒体上的网络欺凌仍然是一个关键挑

害行为的热点地区(HindujaandPatchin,

战，因为其表达方式微妙且多样。本研究调查

本2010;Kowalskietal.,2014)。特别是网络欺

了将攻击行为检测作为统一训练框架中的辅助

译任务是否能够提升大型语言模型（LLMs）在凌，由于其对受害者心理和情感上的深刻

中网络欺凌检测方面的泛化能力和性能。使用指影响而成为一个紧迫的问题(Wangetal.,

1令调优的LLM在五个攻击数据集和一个网络2019)。与传统欺凌不同的是，后者可能

v

0欺凌数据集上进行了实验。我们评估了多种策局限于特定时间和地点，网络欺凌受害者

6略：零样本、少样本、独立LoRA微调以及多则可以在多个数字平台上不受限制地受

3

6任务学习（MTL）。鉴于MTL结果不一致，我到攻击，这对年轻成人人口产生了重大影

0.们提出了一种丰富提示流水线的方法，在这种

8响(Slonjeetal.,2013)。

0方法中，将攻击预测嵌入到网络欺凌检测提示

5中以提供上下文增强。初步结果显示，丰富提

2检测网络欺凌颇具挑战性，因为其语

:示流水线始终优于标准的LoRA微调，表明基

v言复杂多变，从明显的攻击到微妙的、带

i于攻击信息的上下文显著提升了网络欺凌检测

x能力。本研究强调了辅助任务（如攻击行为检有被动攻击性的表达都有，这些往往逃过

r

a测）提升LLM在社交网络关键安全应用中的了常规监管系统对其隐含针对性含义的

泛化潜力。捕捉～(Xuetal.,2012)。传统的基于关

关键词：网络欺凌检测，攻击性言论检测，大型语键词和规则驱动的检测方法难以适应社交

言模型（LLMs），多任务学习（MTL），上下文提媒体中不断演变的俚语和隐藏的信息模式

示，参数高效微调（LoRA），在线骚扰，社交媒体～(Waseemetal.,2017)。大型语言模型

安全（LLMs）方面的最新进展，如Gemma系