2024如何提升大模型任务能力报告.docxVIP

  • 0
  • 0
  • 约9.62千字
  • 约 39页
  • 2026-03-26 发布于浙江
  • 举报

如何提升大模型任务能力张奇复旦大学1

如何提升大模型任务能力

张奇

复旦大学

1

数据集合算法模型资源需求2强化学习用户指令十万用户指令强化学习方法RL模型1-100GPU天级别训练时间ChatGPT、Claude

数据集合

算法

模型

资源需求

2

强化学习

用户指令

十万用户指令

强化学习方法RL模型

1-100GPU

天级别训练时间

ChatGPT、Claude

奖励函数

标注对比对

百万标注对比对

二分类模型

RM模型

1-100GPU

天级别训练时间

指令微调

标注用户指令

百万用户指令和对应的答案

语言模型预训练

SFT模型

1-100GPU

天级别训练时间

MOSS、

文档评论(0)

1亿VIP精品文档

相关文档