03 大模型训练技术.pptx

大模型训练技术

学习目标知识目标了解预训练数据的准备过程。掌握预训练的主流架构。理解分布式训练与优化技术。掌握全参数微调的基本原理。掌握参数高效微调的基本原理。技能目标能够配置并运行基于Transformer架构的预训练实验。能够使用LoRA、提示微调等方法对已有大模型进行轻量化适配。能够对不同微调方法的效果进行对比评估并选择合适方案。

现实挑战：如何满足用户复杂的财务目标？在金融投资领域，智能资产配置工具已成为核心。然而，随着用户财富管理意识的觉醒，其财务规划需求日益复杂化、多元化，传统的资产配置系统往往难以灵活应对。多目标并存用户通常需要兼顾多重财务规划，例如：为购房准备的稳健资金、为