B站容器平台混部和
容量管理实践
B站资深开发/许龙
大纲
•各类混部场景的实践方案
•CPU在离线混部:在线+转码、在线+大数据
•CPU潮汐混部:推搜+大数据
•GPU常态混部:推理+转码
•GPU潮汐混部:推理+训练
•容量管理的实践方案
•弹性伸缩:VPA和HPA
•合池:quota管理、算力标准化
•容量运营与可视化
B站容器平台架构
您可能关注的文档
- Scott Shaw-AI是协作者,而非替代者——探讨AI高效协作开发.pdf
- Scott Shaw-经验传递——内部技术团队工程平台成功实践.pdf
- 曹伟-K8s上的数据库私有云之旅:KubeBlocks架构设计与实践.pdf
- 陈广胜-EventMesh Function:面向事件流处理的Serverless新火花.pdf
- 丁杰-运用最小企业架构构建业务平台.pdf
- 付山阳-从安全角度,看AGI到来的可能性.pdf
- 何碧宏-全链路监控在根因分析和业务监控中的应用.pdf
- 胡晓光-飞桨框架技术创新之路.pdf
- 胡月军-分布式Data Warebase-加速企业数据智能化.pdf
- 黄鹏-破局升维革新大模型时代的数字员工.pdf
原创力文档

文档评论(0)