基于深度学习的文本分类方法-程瑶.pdfVIP

ThenameoftheDepartment

BeijingForestStudio

部门名称

北京理工大学信息系统及安全对抗实验中心

基于深度学习的文本分类方法

硕士研究生程瑶

2022年3月6日

内容提要

•背景简介

•基本概念

•算法原理

–TextING-INductivewordrepresentationsviaGraphneuralnetworks

–ACT-AttentiveConvolutionalTransformer

•应用总结

•参考文献

2

内容提要

•预期收获

–1.了解文本分类的基本概念

–2.了解文本分类方法及其发展历史

–3.理解TextING和AttentiveConvolutionalTransformer算法基本原理

–4.了解文本分类的典型应用与未来发展

3

背景简介

•文本分类（TextClassification，TC）

–在给定的分类体系中，将文本映射到预先给定的某类或某几类主题的过程

–核心方法：根据文本内容的特点，文本分类一般流程是预处理、文本表示及特征选择、

构造分类器、分类四个步骤

•现有多种可用的文本分类工具，涉及情感分析、主题分类、关系提取等方面

•文本情感分析

–实体（实体类别）：“餐馆”、“饭店”（“饭店”）

–属性（属性类别）：“水煮牛肉”、“三文鱼”（“食物”）

4

历史发展

•文本分类

–传统文本分类方法包含预处理、特征工程和机器学习分类器（文本表示是高维度高稀疏

的，特征表达能力较弱）

–深度学习文本分类方法通过有效地文本表示，将特征映射到输出上，最后进行非线性转

换实现文本分类（有效处理文本表示问题，利用网络结构自动获取特征表达能力）

ShallowLearning

FeaturesExtractionClassifier

Bow/TF-IDFNB/KNN/SVM/DT/RFEvaluation

Label

Accuracy/F1/

TextPreprocessMicro-Sentiment

F1/Macro-F1/Topic

DeepLearni