基于神经网络的词嵌入对抗攻击研究综述.docVIP

基于神经网络的词嵌入对抗攻击研究综述

词嵌入作为自然语言处理（NLP）领域的基础技术之一，通过将离散的词汇映射为低维连续向量，为下游任务提供了语义表达的核心支撑。随着神经网络模型在文本分类、机器翻译、情感分析等场景的广泛应用，词嵌入的鲁棒性问题逐渐成为研究焦点。对抗攻击通过在输入文本中添加微小、人类难以察觉的扰动，诱导模型输出错误结果，而词嵌入层面的攻击更是直接动摇了NLP系统的语义基础，相关研究对于提升模型安全性、完善防御机制具有重要理论与应用价值。

一、词嵌入对抗攻击的核心概念与基本原理

词嵌入的本质是通过神经网络学习词汇在高维语义空间中的分布表示，语义相近的词汇在向量空间中距离更近，反之则更远。对抗攻击正是利用这一分布特性，通过修改原始输入对应的词嵌入向量，或者替换原始文本中的词汇为语义相近的扰动词汇，在保证文本语义一致性的前提下，实现对模型输出的操控。

从攻击目标来看，词嵌入对抗攻击可分为定向攻击与非定向攻击两类。定向攻击要求诱导模型输出指定的错误结果，例如在情感分析任务中，将正面评价的分类结果强制修改为负面评价；非定向攻击仅要求模型输出错误结果，不限制具体错误类别，例如在垃圾邮件检测任务中，只需让正常邮件被判定为垃圾邮件，或垃圾邮件被判定为正常邮件即可。根据攻击者掌握的模型信息差异，又可分为白盒攻击与黑盒攻击：白盒攻击中攻击者可以获取模型的结构、参数、词嵌入矩阵等全部信息