9 王者荣耀高并发背后的故事.docxVIP

王者荣耀高并发背后的故事 可谓中国最火爆的手机玩耍“王者荣耀”，拥有亿级用户体量，千万级日活用户，如何快速、低成本地保障业务突发？本文从该问题动身，论述了问题对应的处理方案，并对其效果做出总结。 背景 “王者荣耀”是一款国民级手机玩耍，用户体量巨大，而且一直保持着较高的更新频率。这种业务场景下，突发也变得格外频繁，然而业务体验是至关重要的，使用CDN必不行少。类似地，经常有带宽突发的场景，比如旧事爆点视频、大型直播活动、抢手影视剧上线、抢手玩耍等应用发布。同时，由于家庭带宽和移动网络的快速升级，突发带宽量级越来越大，经常达到Tb级，甚至10Tb 。如何快速、低成本地保障业务突发，成为CDN的一大挑战。 2007年，腾讯自建CDN启用，接入了第一个业务腾讯网。到现在CDN带宽量级，从最早的数十Gb，进展到现在的数十Tb；单业务的带宽也越来越大，大部分业务常量带宽在几百Gb，部分突发业务达到了10Tb。网络的快速升级，移动用户迸发式增长，以及视频类业务包括点播和直播的衰亡，使得业务突发越来越频繁，突发带宽越来越高，对CDN的要求也越来越高。 自建CDN得益于腾讯业务的蓬勃进展，先后支持了玩耍下载、流媒体视频加速、春节红包等腾讯内部业务；2021年腾讯将CDN全面力量开放，成为腾讯云CDN产品，除承载内部业务外，也开头接入第三方客户，比如快手点播、斗鱼直播等。以上各种业务都有突发场景，也有很强的成本诉求，在如何低成本地保障业务突发，腾讯CDN积累了丰富的阅历。接下来就挑战和问题、处理方案、效果三个方面来解析。 一、挑战和问题 下面将从业务特点开头，分析目前存在的挑战和问题。 1、 业务特点和挑战 CDN多样化的场景，注定了突发业务布满挑战。突发业务具有体量大、场景多样化、 无规律等特点。 a) 体量大：突发业务带宽大部分都超过Tb，部分甚至达到了10T ； b) 场景多样化：点播中的热剧和旧事爆点；直播中的LOL／KPL／DOTA2等玩耍直播，NBA／世界杯等体育直播，演唱会等综艺直播；应用下载中的王者荣耀等玩耍下载；静态网页加速中的红包活动、电商促销等； c) 无规律：部分突发活动无法预知，活动快要开头或已经开头了才晓得，比如旧事爆点。 体量大，需要预备更多的资源；场景多样化，需要满足不同的资源需求；无规律性则对我们的扩容效率提了很高的要求。 2、 目前存在的问题 仅仅为了满足业务突发需求而储备大量的资源，成本太高，会形成资源极大的铺张。所以一般会通过复用资源来应对业务突发。但是直接复用资源，存在两个问题： a) 只能复用部分资源：CDN业务，一般按业务类型来区分平台和资源使用，次要缘由是不同业务类型对资源需求不同，比如点播类需要更多的存储；有较多https恳求的静态页面类，则需要更多CPU资源。这种限制使得资源无法充分利用，加大了资源预备的难度。比如视频突发次要使用视频Buffer，而下载类和网页类Buffer无法直接使用，这限制了Buffer的大小。即便复用同类型资源，由于涉及多个业务资源的协调，预备时间一般会超过两天，无法应对临时突发； b) 无法降低成本：另外针对部分突发业务，比如玩耍应用下载，带宽高峰期在上午和半夜，假如只使用本平台资源，会导致结算带宽明显上涨，从而添加成本。无法利用同其他业务错峰的特点来降低结算带宽。 二、处理方案 腾讯云CDN通过虚拟化复用现有资源，搭建全业务通用的突发池，全部平台共享Buffer。 突发池中的设备为Docker虚拟机，虚拟机有不同的规格，只需业务有需求，都可以按需使用。突发池中的带宽储备达到了10Tb，基天性满足全部业务突发需求 。任何业务有突发需求，协作自动化上架接口，可在10分钟完成10Tb突发池的扩容。 1、 突发池系统架构 突发池系统架构见图1 图 1突发池系统架构 a) 突发池：在各平台物理机的上层，由Docker虚拟机组成的资源池，对CPU/内存/磁盘等使用进行了限制，防止对物理机形成影响。原有业务照旧部署在物理机上，不用调整。 b) 自动化部署和监控系统： 能依据业务实际需求，自动猜测需求并扩容 。全部的突发需求，都能在10分钟内扩容完成。针对点播/下载业务，自动分发热点文件，降低回源带宽。 c) 调度系统：突发业务的突发性和体量大两个特点，使得相比域名调度系统，直通车更占优势。直通车调度更机警，生效时间快，能达到分钟级。 虚拟机和物理机部署了上报Agent，业务信息和服务器负载每分钟都会上报到监控系统。监控系统会依据历史带宽猜测一个值，并与当前带宽比较，假如当前带宽超过猜测值的50%，则认为有突发。依据带宽上涨的比例，系统会自动从突发池中扩容相应数据的设备。针对提前预备的突发活动，运维可以指定带宽需求量，之后系统便会自动计算设备需求并扩容。 分钟粒度上报的服务器负载信