自然语言处理-基于深度学习的理论与案例 教学大纲.docx

自然语言处理教与学教学大纲

课程代码：

课程名称：自然语言处理

英文名称：NaturalLanguageProcessing

课程性质：选修

学分课时：3学分，48课时

教学对象：大数据、人工智能等计算机类专业，及其交叉学科专业的大三本科学生或硕士研究生

考核方式：出勤及平时专题讨论并做展示汇报占总评成绩的50%、期末开卷或论文考试占总评成绩的50%

教学方式：课堂讲授占比50%，实践讨论占比50%。教学中要求理论联系实际，采用导入式教学、案例教学和讨论教学法。教师将会使用电脑放映教学PPT。

出勤要求：要求学生关闭自有一切电子设备；不能无故缺席上课；上课专心听讲，积极参与课堂讨论；课后认真复习课堂上讲授内容，独立完成教师布置的任务；并预习新课。学生缺勤不得多于总课时的四分之一。教师可以根据考勤情况决定学生是否可以参加考试、是否扣分。

01

课程简介

本课程主要介绍了利用深度学习进行自然语言处理的模型、原理、任务和应用等方面的具体细节和基本要点。同时，它包括利用深度自然语言处理技术进行实际任务处理。

这是针对具有计算机编程语言基础的研究生的专业选修课程，内容包括：自然语言处理基础知识、依存句法分析、表征学习、神经网络语言模型、前馈神经网络、循环神经网络、转换器、大语言模型等。

1.教学目标

因此，本课程的教学目标是，通过教学使学生对深度学习自然语言处理的基本概念和基本方法有正确的理解和较深刻的认识，对编程使用深度学习模型来完成自然语言处理任务有较系统的掌握。

2.先修课程

Python或其他一门编程语言。

3.课程学习资料

（1）教材

指定教材：雷擎，《自然语言处理——基于深度学习的理论与案例》，清华大学出版社，2024年3月。

（2）参考教材

[1]屠可伟等，动手学自然语言处理，人民邮电出版社，2024年05月

（3）在线慕课网站：

/detail/237575981

4.课程答疑

答疑邮箱：qleii@126.com

在线课程论坛

02

教学内容

第1章自然语言处理基础知识

【教学目标和要求】：复习python语言及常用第三方库，了解自然语言处理的发展历史和任务，了解自然语言处理的数学和计算机基础知识，掌握数学基础的向量、维度、矩阵、期望、方差、梯度等理论和计算方法。

教学方式：讲授，编程实验

准备知识：无

【主要内容】：

???1.0python复习

???1.1自然语言处理概述???????

???1.2数学基础之线性代数?????

???1.3数学基础之概率分布?????

???1.4数学基础之梯度下降?????

???1.5梯度下降算法示例???

【教学时数】：4

作业与思考题：见课件，教师根据学生接受情况有调整

参考资料：见课件，教师根据学生接受情况有调整

第2章依存句法分析

【教学目标和要求】：了解句法分析、依存句法分析的概念，学会依存关系形式化表达、依存树方法，理解基于转移的依存句法分析、神经依存句法分析的原理与架构。

教学方式：讲授

准备知识：无

【主要内容】：

???2.1什么是句法分析??

???2.2依存语法????

???2.3基于转移的依存句法分析??????

???2.4神经依存句法分析????

【教学时数】：2

作业与思考题：见课件，教师根据学生接受情况有调整

参考资料：见课件，教师根据学生接受情况有调整

第3章表征学习

【教学目标和要求】：掌握表征学习概念，了解表征学习的作用和种类、自监督表征学习的方法，掌握主成分分析PCA的原理，及PCA在表征学习中的作用和实现。

教学方式：讲授，编程实验

准备知识：无

【主要内容】：

3.1表征学习概念????

???3.2NLP自监督表征学习??????

???3.3主成分分析PCA??????

???3.4PCA应用实例????

【教学时数】：4

作业与思考题：见课件，教师根据学生接受情况有调整

参考资料：见课件，教师根据学生接受情况有调整

第4章神经网络语言模型

【教学目标和要求】：学习词袋模型和TF-IDF的原理和方法，理解词嵌入，掌握Word2Vec原理，及使用Word2Vec进行自然语言向量化的应用方法。

教学方式：讲授，编程实验

准备知识：无

【主要内容】：

???????4.1词袋模型和TF-IDF?????????????

???????4.2词嵌入???????????

???????4.3Word2Vec??????????????

???????4.4Word2Vec应用实例?????????????

【教学时数】：4

作业与思考题：见课件，教师根据学生接受情况有调整

参考资料：见课件，教师根据学生接受情况有调整

第5章前馈神经网络

【