原创力文档- 2
- 0
- 约2.47万字
- 约 51页
- 2026-08-05 发布于广东
- 举报
大规模语言模型训练与推理阶段算力资源优化策略
目录
文档概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2
1.1大型语言模型的计算资源需求．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2
1.2训练与推理阶段的算力资源优化目标．．．．．．．．．．．．．．．．．．．．．．．3
训练阶段计算资源优化策略．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．6
2.1数据准备与预处理阶段的优化．．．．．．．．．．．．．．．．．．．．．．．．．．．．．6
2.2模型训练的算力分配与调优．．．．．．．．．．．．．．．．．
文档评论（0）