自然语言处理从统计学习向预训练大模型的演进研究.docxVIP

自然语言处理从统计学习向预训练大模型的演进研究

目录

内容概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

统计学习方法概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．3

机器学习方法深化．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

3.1深度学习模型的引入．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

3.2卷积神经网络与循环神经网络．．．．．．．．．．．．．．．．．．．．．．．．．．．．．7

3.3增量学习与迁移学习．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

3.4混合模型与集成方法构建．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．17

基于标注数据的学习策略演化．．．．．．．．．．．．．．．．．．．．．．．．．．．．．20

4.1二分类框架的扩展．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．20

4.2多分类与序列标注．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．22

4.3指示学习与半监督技术．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．25

4.4数据增强与特征工程优化