人工智能通识（AIGC版） 项目1课后思考-参考答案.docx

项目1课后思考-参考答案

1．简述大语言模型的核心技术。

大语言模型（LargeLanguageModel,LLM）是一种基于人工智能技术、能够理解和生成人类语言的大型模型。其核心技术可以简要概括为以下四个关键部分：

1.Transformer架构

这是几乎所有现代大语言模型（如GPT系列）的基础核心。它采用了一种称为“自注意力机制”（Self-Attention）的技术，使得模型能够同时处理输入文本中的所有词汇，并精准地计算出每个词与其他词之间的关联程度，从而更好地理解上下文语境。

2.海量数据预训练

大语言模型首先需要在极其庞大的文本数据集（如书籍、文章、网页等）上进行“预训练”。在这个过