基于深度学习的文本过滤方法研究.pdf

摘要

随着互联网的迅速发展以及数据爆炸式的增长，用户获取有效信息的途径变得愈发

多样，网络上的垃圾文本也随之增多。部分用户会通过各种平台发布无关的垃圾信息，

这些信息的出现造成了资源浪费的现象，也对人们的生活和财产安全产生了一定的影响。

因此，开展对数据信息中垃圾文本过滤分类研究，不仅能够提升用户的体验感，而且对

平台的维护与网络良好环境的构建提供了坚实的基础。

在文本过滤算法中，传统的文本表示通常对特征词的语义信息、权重值等方面考虑

不足。在特征提取方面，深度模型中的CNN、RNN等模型能够提取局部特征信息、语

义信息相比于传统的机器学习，在过滤过程中能够得到更好的精准率，但是这些模型对

于长距离不连续的词语共现的特征捕获不充分。本文针对上述问题提出一种融合加权

Word2Vec的BiGR-CN垃圾文本过滤算法。本文主要研究内容如下：

针对GRU模型在提取特征词之间远距离依赖性不足的问题，本文提出一种基于双

通道BiGR-CN模型的垃圾文本过滤方法。该模型在BiGRU双向提取上下文特征信息的

基础上，使用GCN模型提取词语间的依赖关系，充分考虑文本中连续语义信息和全局

结构信息，对特征信息进行更充分的提取。

为了进一步提高BiGR-CN模型的过滤结果，本文提出了一种基于TFIN-IIDF加权

的Skip-Gram词向量表示方法。在文本表示层计算特征词的重要程度，该方法通过对特

征词在类间分布和类内分布的差异，调整相应的权重值，并将此权重值与Skip-Gram模

型训练的词向量进行加权，既保留词语的语义关系，又能够表示其权重差异。

本文在多个开源数据集中开展实验，将BiGR-CN与BiGRU、TextGCN等多组常用

模型进行对比，实验结果表明，本文模型在各项评价指标中均有一定程度的提升，充分

证明本文方法的有效性。

关键词：垃圾文本过滤；特征融合；BiGRU；TF-IDF算法

ResearchonTextFilteringMethodsBasedonDeepLearning

Abstract

WiththerapiddevelopmentoftheInternetandtheexplosivegrowthofdata,usersaccess

toeffectiveinformationhasbecomemoreandmorediverse,andthenumberofspamtextson

theInternethasalsoincreased.Someuserswillpublishirrelevantspaminformationthrough

variousplatforms,andtheappearanceofsuchinformationhascausedthephenomenonof

wastingresourcesandalsohasacertainimpactonpeopleslifeandpropertysecurity.Therefore,

carryingoutresearchontheclassificationofspamtextfilteringindatainformationcannotonly

improvetheusersexperience,butalsoprovideasolidfoundationforthemaintenanceofthe

platformandtheconstructionofagoodnetworkenvironment.

Inthetextfilteringalgorithm,thetraditionaltextrepresentationusuallydoesnotconsider

enoughsemanticinformationandweightvaluesoffeaturewords.Intermsoffeatureextraction,

deepmodels