原创力文档- 3
- 0
- 约4.55千字
- 约 26页
- 2024-12-05 发布于陕西
- 举报
腾讯AngelPTM大模型训练框架优化与实践
支撑混元大模型训练的训练框架
空白演示
薛金宝
2024.6
1
大模型发展趋势和训练面临的挑战
3
大模型成为人工智能发展的重要方向
模型参数规模
指数级增长
?生成式大模型突飞猛进，5年时间，模型参数规模增长100万倍，达到万亿量级
?ScalingLaw：数据越多、模型越大，模型学习能力越强，模型效果越好
[1]
[1]OpenAI“ScalingLawsforNeuralLanguageModels”,/abs/2001.08361,2020
大模型发展趋势-模态变化
多模态
文生图
文生视频
全模态
文生
您可能关注的文档
- 2024年中国Robotaxi商业化趋势研究报告-39页.doc
- 2024女性卫生用品行业趋势洞察报告-39页.doc
- 2024培育钻石编年史-27页.doc
- 2024轻量云产业发展研究报告-41页.doc
- 2024全球碳中和年度进展报告-52页.doc
- 2024全球网购退换货研究及应对手册-33页.doc
- 2024人工智能静悄悄的革命：如何正在变革奢侈品行业（英译中）-47页.doc
- 2024人力资源雇佣调研报告-18页.doc
- 2024沙特阿拉伯的奢侈品新准则报告-29页.doc
- 2024上半年美国市场趋势洞察报告-73页.doc
- 2024微信朋友圈用户研究报告-增长黑盒-2024-66页.doc
- 2024蔚来ET5T用户画像及满意度报告-61页.doc
- 2024消费活跃之城报告-52页.doc
- 2024消费者网购行为洞察：信任、安全和无缝的购物体验-Riskified-24页.doc
- 2024小红书平台「轻生活」趋势洞察数据报告-25页.doc
- 2024新蓝图实现持续和高效的成功变革研究报告-49页.doc
- 2024新能源参与电力市场挑战与机遇报告-虹知数科-26页.doc
- 2024银河E5用户满意度报告-63页.doc
- 2024英国巴斯大学中国校友归国职业发展报告-24页.doc
- 2024智算基础设施发展研究报告-29页.doc
最近下载
- 完整版圆锥曲线的切线方程的推导.doc VIP
- 最新人教版高中英语必修一综合测试题全套及答案.docx VIP
- 采用进端热处理技术悬链式CCV生产线生产220kV及以上超高压.PDF
- 新视野大学英语第三版读写教程第二册课后题答案(完整版).pdf VIP
- 气胸胸腔闭式引流规范.docx VIP
- 脓胸诊疗与引流冲洗规范.ppt
- 2025年中考化学一轮复习资料-重难点突破01 溶解度及溶解度曲线（讲义）（原卷版）.docx VIP
- 鲲鹏认证-HCIP-Computing-H13-221题库.doc
- 检验机构质量管理流程文件清单.docx VIP
- 2025福建厦门市妇幼保健院招聘辅助人员30人考试备考试题及答案解析.docx VIP
文档评论（0）