（共28页PPT）高中方法9大模型的基本原理讲义.pptx

历史;第二章：人工智能基础;第九节：大模型的基本原理（1）;学习目标;回顾：机器学习的几大学派;还记得那只想要学英文的羊驼吗？;基于规则的尝试;思考;婴儿：模仿大人说话;语言模型：词频与概率;语言模型：词频与概率;N-gram语言模型;N-gram语言模型;神经网络语言模型;神经网络语言模型：语义嵌入;神经网络语言模型：词向量;词向量小游戏;词向量与RNN的局限性;Transformer模型;Transformer模型：自注意力机制;Transformer模型：自注意力机制;大语言模型的诞生;GPT结构示意图;GPTN-gram;预训练：打好基础，再备考;单词预测虽然看起来简单，如果要做好