华为认证 AI 人工智能实战-第5章：序列模型与 NLP 技术.pptxVIP

华为认证AI人工智能实战训练营【HCIE】第五章：序列模型与NLP技术

课程目录01序列模型基础从RNN到LSTM与GRU的演进02Attention机制与Transformer让模型学会“聚焦”与并行计算03预训练模型时代BERT与GPT的核心思想与应用04实战案例：基于MindSpore的BERT情感分析模型微调与部署全流程05常见问题排查与优化梯度消失、过拟合、推断速度等06总结与课后任务知识回顾与动手实践

01.序列模型基础：RNN(RecurrentNeuralNetwork)核心思想(CoreIdea)引入网络循环，允许信息在序列步骤间传递，专门用于处理具有天然顺序性的数据（如文本、语音、时间序列）。工作原理(Mechanism)?隐藏状态(h_t):充当记忆单元，融合当前输入(x_t)与前一步记忆(h_{t-1})，计算新状态。h_t=f(W_hh*h_{t-1}+W_xh*x_t+b_h)模型优势?理论支持任意长度的序列输入。

?网络结构简单，计算开销低。主要局限?梯度消失/爆炸：处理长序列时，反向传播的梯度衰减或激增。

?无法有效学习“长期依赖”关系。

01.序列模型基础：LSTM(LongShort-TermMemory)核心优势有效解决了长期依赖问题，能够学习并捕捉序列数据中非常长的依赖关系。局限性模型内