- 1
- 0
- 约1.49万字
- 约 27页
- 2024-07-24 发布于山西
- 举报
肖松-大模型场景下智算平台的设计与优化实践
大模型场景下智算平
台的设计与优化实践
肖松
2024.06.14
引言
不同时期对智算平台的需求
2018
客户A我资源比较少,几十卡的规模,如何提升卡的利用率?
客户B我的模型跑起来耗时长,能加速吗?
客户C我想跑大模型,需要多少资源?网络如何构建?多长时间能跑完?
客户D国产卡怎么用?
大模型场景下智算平
台的设计与优化实践
肖松
2024.06.14
引言
不同时期对智算平台的需求
2018
客户A我资源比较少,几十卡的规模,如何提升卡的利用率?
客户B我的模型跑起来耗时长,能加速吗?
客户C我想跑大模型,需要多少资源?网络如何构建?多长时间能跑完?
客户D国产卡怎么用?
文档评论(0)