毕业设计(论文)
PAGE
1-
毕业设计(论文)报告
题目:
基于二维张量并行策略的大模型加速训练方法
学号:
姓名:
学院:
专业:
指导教师:
起止日期:
基于二维张量并行策略的大模型加速训练方法
摘要:随着深度学习技术的飞速发展,大模型在各个领域展现出巨大的潜力。然而,大模型的训练过程计算量巨大,传统的单机训练方式难以满足实际需求。本文提出了一种基于二维张量并行策略的大模型加速训练方法。该方法通过优化张量存储和计算过程,实现了并行计算和内存优化,有效提高了大模型的训练效率。实验结果表明,与传统的单机训练方法相比,该方法在训练速度和内存
原创力文档

文档评论(0)