许龙-B站容器平台混部和容量管理实践.pdf

许龙-B站容器平台混部和容量管理实践.pdf

B站容器平台混部和

容量管理实践

B站资深开发/许龙

大纲

•各类混部场景的实践方案

•CPU在离线混部:在线+转码、在线+大数据

•CPU潮汐混部:推搜+大数据

•GPU常态混部:推理+转码

•GPU潮汐混部:推理+训练

•容量管理的实践方案

•弹性伸缩:VPA和HPA

•合池:quota管理、算力标准化

•容量运营与可视化

B站容器平台架构

文档评论(0)

1亿VIP精品文档

相关文档