大模型训练-PAI-ChatLearn:灵活易用、大规模 RLHF 高效训练框架-张杰.pdfVIP

  • 38
  • 0
  • 约1.29万字
  • 约 23页
  • 2023-12-15 发布于中国
  • 举报

大模型训练-PAI-ChatLearn:灵活易用、大规模 RLHF 高效训练框架-张杰.pdf

PAI-ChatLearn:

灵活易用、大规模RLHF高效训练框架

张杰(王林)-阿里云人工智能平台PAI深度学习框架负责人

DataFunCon#2023

0

Contents1大模型训练方式演进

目录

0

PAI-ChatLearn框架介绍

2

0

PAI-ChatLearn使用示例

3

大模型训练方式演进

01

模型训练方式变迁——数据并行

数据并行

•数据并行加快训练,提升单卡训练速度

文档评论(0)

1亿VIP精品文档

相关文档