自然语言处理-期末复习总结.pdfVIP

⾃然语⾔处理-期末复习总结

第⼀章绪论

第⼀章内容主要是NLP中的各种概念及⽅法的介绍。

1.1基本概念

语⾔：语⾔是⼀个符号系统，通常⽤⼀些记号（如汉字）来表⽰。

语⾔是⼀个系统，因为语⾔能表达意义(知识)，并且具有⼀定的规则(语法)。

语⾔的第⼀系统是语⾳系统，第⼆系统是⽂字系统。

语⾔的单位有：字符、词、短语、句⼦、语段或篇章。

⾃然语⾔：⼈类独有的、⽤任意创造出来的符号系统交流思想、表达感情和愿望的⾮本能⽅法。

⾃然语⾔指⼈类使⽤的语⾔，如汉语、英语等。

⾃然语⾔理解：通过建⽴形式化的数学模型来分析、处理⾃然语⾔，并在计算机上⽤程序来实现分析和处理(⾃然语⾔)的过程，从⽽达到以机

器(计算机)来模拟⼈的部分乃⾄全部语⾔能⼒的⽬的。

与NLU密切相关的⼀门学科是计算语⾔学(ComputationalLinguistics)，不过计算语⾔学更侧重于研究⾃然语⾔的计算模型(数学模型)。

⾃然语⾔处理：⾃然语⾔处理就是利⽤计算机为⼯具对⼈类特有的书⾯形式和⼝头形式的⾃然语⾔的信息进⾏各种类型处理和加⼯的技术。

⾃然语⾔处理要研制表⽰语⾔能⼒和语⾔应⽤(linguisticperformance)的模型，建⽴计算框架来实现这样的语⾔模型，提出相应的⽅法来

不断地完善这样的语⾔模型，根据这样的语⾔模型设计各种实⽤系统，并探讨这些实⽤系统的评测技术。

从微观上讲，指从⾃然语⾔到机器内部之间的⼀种映射；从宏观上讲，指机器能够执⾏⼈类所期望的某些语⾔功能，包括问答系统、机器翻

译、从材料中获取摘要等。

1.2⾃然语⾔处理的研究内容和⾯临的困难

⾃然语⾔处理的研究⽅向：机器翻译、⾃动⽂摘、信息检索、⽂档分类、问答系统、信息过滤、信息抽取、⽂本挖掘、舆情分析、隐喻计算、

⽂字编辑和⾃动校对、作⽂⾃动评分、光读字符识别、语⾳识别、⽂语转换、说话⼈识别/认证/验证。

⾃然语⾔处理涉及的⼏个层次：⾃然语⾔处理⼀般会涉及⾃然语⾔的形态学、语法学、语义学和语⽤学等⼏个层次。

形态学(词法)：研究词的内部结构，包括屈折变化和构词法两个部分。(词的不同形式对句法和语义的影响)

语法学：研究句⼦结构成分之间的相互关系和组成句⼦序列的规则。(为什么⼀句话可以这么说，也可以那么说？)

语义学：研究如何从⼀个语句中词的意义，以及这些词在该语句中句法结构中的作⽤来推导出该语句的意义。(这个语⾔单位到底说了什

么？)

语⽤学：研究在不同上下⽂中的语句的应⽤，以及上下⽂对语句理解所产⽣的影响。（为什么在特定的上下⽂中要说这句话？）

⾃然语⾔处理⾯临的困难：⼤量歧义现象和未知语⾔现象。

歧义现象：⾃然语⾔中存在⼤量歧义现象，⽆论是在词法、句法，还是在语义和语⽤层次。任何⼀个⾃然语⾔处理系统，都⽆法回避歧义消

解问题。

词法歧义：⾃动化/研究所/取得/的/成就；⾃动化/研究/所/取得/的/成就

结构歧义：今天中午吃u馒头/u；今天中午吃u⾷堂/u

语义歧义：她这个⼈真有u意思(funny)/u；你们这么说是什么u意思(intention)/u

语⾳歧义：⽯室诗⼠施⽒，嗜狮，誓⾷⼗狮

未知语⾔现象：⾃然语⾔中存在未知的语⾔现象，包括新的词汇(⼈名、地名、术语等)、新的含义、新的⽤法和语句结构等。

1.3⾃然语⾔处理的基本⽅法

⽬前⾃然语⾔处理的研究从⼤的⾓度可分为两类⽅法：理性主义与经验主义⽅法。

理性主义⽅法：理性主义⽅法主张建⽴符号处理系统，由⼈⼯整理和编写初始的语⾔知识表⽰体系（规则），构造相应的推理程序，系统根据

规则和程序，将⾃然语⾔理解为符号结构。

1.词法分析器按照⼈编写的词法规则对输⼊句⼦的单词进⾏词法分析

2.语法分析器根据⼈设计的语法规则对输⼊句⼦进⾏语法结构分析

3.根据⼀套变换规则将语法规则映射到语义符号

经验主义⽅法：经验主义⽅法主张通过建⽴特定的数学模型来学习复杂的、⼴泛的语⾔结构，然后利⽤统计学、模式识别和机器学习等⽅法来

训练模型的参数，以扩⼤语⾔使⽤的规模。

理性主义与经验主义⽅法的分歧：

1.对语⾔知识来源的不同认识

理性主义：认为⼈的很⼤⼀部分语⾔知识是与⽣俱来的。

经验主义：认为⼈的语⾔知识是通过感观输⼊，经过⼀些简单的联想与通⽤化(泛化)的操作⽽得到的。

2.研究对象的差异