人工智能基础及应用课件 模块三-任务一-2-语言模型的技术演变.pptxVIP

大语言模型是如何炼成的;自然语言处理（NaturalLanguageProcessing,NLP）是人工智能与语言学交叉的研究领域，研究如何使计算机能够理解、分析、生成和处理人类语言，从而实现人机之间的自然语言通信。自20世纪50年代以来，自然语言处理经历了从基于规则，到统计模型，再到深度学习模型和预训练大模型，让机器和人类沟通变得前所未有的自然和高效。;通过预先设定好的语法规则和词汇库，让计算机对文本进行分析、处理和生成。

规则：由专家手工编写，涵盖词性、句法结构、语义关系等内容。

基本思路：先对句子进行词法和语法的严格分析，再依赖语言学专家编写的规则，实现对语言的理解或翻译。

核心工具：语法树是实现自动句法分析、翻译和语义理解的核心工具，帮助计算机按照预设规则识别句子成分及其关系。

语法树：分层结构的图形表示，用来描述一个句子的组成单位（词、短语）在句法规则下的组织方式。每个节点代表一个语法成分，从句子的整体（根节点）逐层细分到具体的词语（叶子节点）。;通过分析大量文本数据中词语的共现频率，建立概率模型，以预测词语之间的关系。

两种核心方法是N-gram语言模型和隐马尔可夫模型（HMM）。

;通过分析大量文本数据中词语的共现频率，建立概率模型，以预测词语之间的关系。

两种核心方法是N-gram语言模型和隐马尔可夫模型（HiddenMarkovModel,HMM）。