基于边增强图卷积神经网络的文本分类研究.pdfVIP

摘要

近年来，随着作为重要信息载体的文本数字资源不断增加，数据间的紧密联系

也日益显现，因此对这些资源进行有效的组织管理变得愈发重要。如今，文本分类

方法的研究方向大多集中于深度领域，图神经网络（GraphNeuralNetworks,GNN）

在网络分析、自然语言处理、推荐系统等多个研究领域发挥着重要作用，特别是在

节点分类任务中有着出色的表现。因此，基于图神经网络的文本分类方法逐渐成为

当前主流研究方向。图卷积神经网络（GraphConvolutionalNetworks,GCN）作为一

种广泛使用的图神经网络，通过对目标节点及一阶邻居节点的特征进行聚合操作实

现信息传递和特征更新。然而，这种方法在一定程度上限制了模型在图结构数据中

捕获长距离依赖关系的能力。为克服这一困难，GCN通过堆叠多个层（Layer）从

高阶节点收集特征，但过多的层又可能导致出现过平滑和过拟合的问题。

为了更好地在单层神经网络中获得高阶邻居节点信息，我们分别利用文本相似

度邻接矩阵和模体矩阵对原始的引文网络进行边增强，将边增强后得到的新矩阵替

换GCN传播公式中的传播矩阵来实现网络图结构增强。提出了用于文本分类的边

增强图卷积神经网络模型（SEGCN,SEWGCN,SEGAT）。我们的模型在图卷积网

络的传播公式中使用文本相似度邻接矩阵或模体矩阵增强后的新矩阵替换了原本的

归一化邻接矩阵作为传播矩阵，使得图卷积运算的过程可以更好地从高阶邻居节点

获取特征信息，有效利用文本内容特征和结构特征，提高了单个卷积层聚合高阶邻

居节点信息的能力。

为验证模型有效性，在三个引文网络数据集（Cora,Citeseer,Pumbed）上，将本

文提出的模型与包括传统分类和图卷积等主流文本分类模型（DeepWalk,MLP,LP,

Planetoid,GCN,GraphSAGE,SGC,GCNII,GAT,DGCN,GraphSNN）进行了比较。实

验结果表明，本文提出的模型在预测精度、损失和F1分数等方面优于基准模型，取

得了较好的分类效果。

关键词：GCN;模体;文本分类;边增强;文本相似度

ABSTRACT

Inrecentyears,withthecontinuousincreaseoftextanddigitalresourcesasimportant

informationcarriers,thecloseconnectionsbetweendatahavebecomeincreasinglyapparent.

Therefore,effectiveorganizationandmanagementoftheseresourceshavebecome

increasinglyimportant.Nowadays,theresearchdirectionoftextclassificationmethodsis

mostlyfocusedonthedeepdomain.GraphNeuralNetworks(GNN)playanimportantrole

inmultipleresearchfieldssuchasnetworkanalysis,naturallanguageprocessing,and

recommendationsystems,especiallyinnodeclassificationtasks,withexcellent

performance.Therefore,textclassificationmethodsbasedongraphneuralnetworkshave

graduallybecomethemainstreamresearchdirection.GraphConvolutionalNetworks

(GCN),