网易视频云：也谈过载保护和隔离....docxVIP

网易视频云：也谈过载保护和隔离 网易视频云 是网易倾力打造的一款基于云计算的分布式多媒体处理集群和专业音视频技术，为客户提供稳定流畅、低时延、高并发的视频直播、录制、存储、转码及点播等音视频的 PASS 服务。在线教育、远程医疗、娱乐秀场、在线金融等各行业及企业用户只需经过简单的开发即可打造在线音视频平台。现在，网易视频云与大家分享一下过载保护和隔离。 什么是过载，会有什么危害 ? 腾讯后台开发技术总监 bison[1] 给出了一个很好的定义： “对于时延敏感的服务，当外部请求超过系统处理能力，如果系统没有做相应保护，可能导致历史累计的超时请求达到一定 规模，像雪球一样形成恶性循环。由于系统处理的每个请求都因为超时而无效，系统对外呈现的服务能力为 0 ，且这种情况下不能自动恢复 ”。 过载的这么危险，应该怎么处理？我认为应该从 ”过载保护 “和”过载隔离 “两个方面来解决。 一、过载保护 “过载保护 ”的关注点是在过载情况下，如何尽其所能对外服务。 bison 提供了一个很棒的过载保护方案，其基本思想是区别有效请求和无效请求，系统只处理有效请求， 不处理无效请求，不做无用功。主要特点是使用请求队列，每个请求带上时间戳。业务逻辑从队列取出请 求之后，检查时间戳，若请求已经超时，则直接丢弃，或者返回一个失败应答。 James Hamilton[2] 提供了 “ big red but