利用变换器推进仇恨言论检测：来自 MetaHate 的 见解.pdfVIP

利用变换器推进仇恨言论检测：来自MetaHate的

见解

SantoshChapagain,ShahMuhammadHamdi,andSoukainaFilali

Boubrahimi

DepartmentofComputerScience,UtahStateUniversity,

4205OldMainHill,Logan,Utah84322,USA

{santosh.chapagain,s.hamdi,soukaina.boubrahimi}@

本本文包括用于研究和说明目的的有害及冒犯性语言示例。

译

中摘要网络仇恨言论是一种普遍且有害的在线交流形式，包含污言秽语和

诽谤性帖子，这些内容可能对被针对的个人和社会群体造成严重的社会、

1心理甚至身体伤害。随着社交平台如X（原推特）、Facebook、Instagram、

v

3Reddit等继续促进广泛的沟通，它们也成为了仇恨言论滋生的温床。这

1种现象越来越多地与现实生活中的仇恨犯罪联系在一起。解决这一问题需

9

4要开发强大且自动化的检测方法来识别多样化的社交媒体环境中出现的仇

0恨言论。深度学习方法，如普通递归神经网络（RNN）、长短时记忆网络

.

8（LSTM）和卷积神经网络（CNN），已经取得了良好的效果，但往往受限

0于长期依赖性和并行化效率低等问题。本研究代表了使用MetaHate数据

5

2集对基于变压器模型的仇恨言论检测进行的全面探索——该数据集是包含

:36个子集的元集合，共有120万个社交媒体样本。我们评估了多种最先进

v

i的变压器模型，包括BERT、RoBERTa、GPT-2和ELECTRA，其中经

x

r过微调的ELECTRA表现最佳（F1分数：0.8980）。我们也分析了分类错

a

误，揭示了讽刺、暗语以及标签噪声等方面的挑战。

Keywords:深度学习·言论仇恨·自然语言处理（NLP）·变换器·大

型语言模型（LLMs）。

1介绍

仇恨言论是一种特别令人担忧的冒犯性语言，与社交媒体平台上的现实

世界仇恨犯罪有关联[15]。它可能是一种损害性的在线虐待形式，会导致情

感困扰，助长社会歧视，并有可能煽动暴力行为。尽管定义有所不同，但人

们一致认为仇恨言论针对个人或群体并带有恶意意图，通常基于种族、宗

2S.Chapagainetal.

教、肤色、性身份、性别认同、族裔、残疾或国籍[1]。社交媒体和在线平

台的兴起增加了全球互联性，但也突显出跨越地理和文化边界的仇恨言论激

增现象令人担忧。在最近的研究中，约有30%被调查的青少年报告在其生活

中某个时刻经历了网络欺