人工智能通识应用基础课件 项目七 2：大模型2.pptxVIP

项目七大模型（部署、训练、微调）

项目概述项目知识要点知识能力目标学时本项目聚焦大模型的技术本质与实践落地，系统梳理大模型的定义、架构原理、关键技术，结合ChatGLM系列模型的部署案例。1初识大模型2大模型核心原理3大模型关键技术4大模型部署【技能要求】1能独立完成大模型的环境配置与部署。2能运用关键技术解决大模型应用中的训练效率、推理速度等问题。3具备大模型适配特定场景的微调能力。【知识要求】1理解大模型的定义、核心特征与发展历程。2掌握Transformer架构及变体原理。3熟悉大模型训练优化、高效推理与参数微调技术。2项目实训大模型部署应用实践2项目知识要点与目标

7.2大模型的核心原理Transformer架构由Google在2017年的论文AttentionIsAllYouNeed中首次提出，其设计初衷是解决传统循环神经网络（RNN）在处理长序列时的梯度消失和并行计算瓶颈问题。与依赖时序递归的RNN不同，Transformer完全基于注意力机制构建，通过自注意力（Self-Attention）模块实现对序列中任意位置元素的直接关联计算，彻底打破了序列长度对模型性能的限制。1.架构基础：Transformer与注意力机制Transformer架构图

Transformer有非常出色的序列建模能力和全局信息感知能力，这也使得Transfo