《人工智能通识》黄源教材 ppt课件 第9章 大语言模型与AIGC.pptx

第9章大语言模型与AIGC

9.1大语言模型概述

9.1.1Transformer模型当前主流的大语言模型都基于Transformer模型进行设计的，其基于自注意力机制(Self-attentionMechanism)模型。Transformer模型的主要思想是通过自注意力机制获取输入序列的全局信息，并将这些信息通过网络层进行传递。

9.1.1Transformer模型标准的Transformer模型如图9-1所示，由编码器和解码器两个部分构成，而这两个部分实际上可以独立使用，例如基于编码器架构的BERT模型和解码器架构的GPT模型。

9.1.1Transformer模