《自然语言处理》03-形式语言与自动机.pptVIP

Introduction of Artificial Intelligence * 第 3 章 形式语言与自动机 自然语言处理 * 第3章 形式语言与自动机 语言是由组合语法规则制约、旨在传达语义的记号形式系统 程序设计语言 自然语言 形式语言：给出了语言的语法规则和分类的形式化方法。 通过数学可描述或机器可处理的公式来定义语言。 定义字母、单词、句子等。 自动机：基于语言的形式化定义，用来识别语言构造和结构的自动装置。 * 第3章 形式语言与自动机 3.1 基本概念 3.2 正则文法和有穷自动机 3.3 上下文无关文法和下推自动机 * 第3章 形式语言与自动机 3.1 基本概念 3.2 正则文法和有穷自动机 3.3 上下文无关文法和下推自动机 * 3.1.1 字母表、符号串及语言 * 3.1.1 字母表、符号串及语言 * 3.1.1 字母表、符号串及语言 语言：特定字母表上符号串的集合 语言作为一个集合，可以定义运算： 示例 L={A,B,……,Z,a,b,……,z} D={0,1,……,9} L U D= {A,B,……,Z,a,b,……,z,0,1,……,9} LD：520个长度为2的串的集合 L4：所有由四个字母构成的串的集合 L*：所有字母构成的集合，包括ε。 L+(L U D): D+: * 3.1.2 文法 语言：特定字母表上符号串的集合 这一定义过于宽泛。 语言通常具有特定的结构，需要满足特定的规则约束。这需要一种约束机制，通过规则的约束更加准确的描述语言。即形式文法。 以形式文法描述英语句子的构成 * 3.1.2 文法 语言：特定字母表上符号串的集合 这一定义过于宽泛。 语言通常具有特定的结构，需要满足特定的规则约束。这需要一种约束机制，通过规则的约束更加准确的描述语言。即形式文法。 以形式文法描述英语句子的构成 * 3.1.2 文法 * 3.1.2 文法 * 3.1.2 文法 * 3.1.2 文法 形式语言 * 3.1.2 文法 * 3.1.3 自动机 一种可以识别并检查语言正确性的计算模型 自动机扫描输入符号串，从一个状态不停跳转到下一个状态。事先定义自动机中的某些状态是“接受”状态，给定符号串，从自动机开始状态出发，经过若干次转换，到达一个“接受”状态，则判定输入符号串是一个特定的词法单元或者语法结构。 核心是跳转函数，该函数基于当前状态和当前输入符号，输出下一个目标状态 状态转换图可以更直观的表示有穷自动机的运行过程 * 第3章 形式语言与自动机 3.1 基本概念 3.2 正则文法和有穷自动机 3.3 上下文无关文法和下推自动机 * 3.2.1 正则表达式与正则文法 3.2.1 正则表达式与正则文法 正则表达式可以用3型文法（正则文法）来描述，它们之间存在等价关系。 * 3.2.2 有穷自动机 3型正则文法对应于有穷自动机，又称为有穷状态自动机。 自动机是识别器，对每个输入串回答yes or no。 分为两类 不确定的有穷自动机（Nondeterministic Finite Automate，NFA） 确定的有穷状态自动机（Deterministic Finite Automate，DFA） * 3.2.2 有穷自动机 DFA和NFA的不同： 一个符号标记离开同一状态的多条边 vs. 对于每个状态和字母表中的每个字符，有且仅有 一条离开该状态、以该符合为标号的边 可以有边的标号是ε vs. 没有标记为ε的边 相同：都可以识别正则语言，两者之间存在等价性 * 3.2.2 有穷自动机 * 3.2.2 有穷自动机 DFA的模拟运行 输入串01 输入串00 * 3.2.2 有穷自动机 * 3.2.2 有穷自动机 模拟NFA运行 输入aa 输入aaaaa * 3.2.3 在自然语言处理中的应用 描述文档中出现的以.cn结尾的只包含数字和字母的电子邮箱地址 * 3.3 上下文无关文法和下推自动机 上下文无关文法（Context-Free Grammar, CFG） 比正则文法具有更强的表达能力 更适合描述程序设计语言和自然语言 基于CFG，可以构造高效的语法分析技术解析语言构造 * 3.3.1 上下文无关文法 * Introduction of Artificial Intelligence