如何实施异构服务器的负载均衡与过载保护？.pdfVIP

如何实施异构服务器的负载均衡及过载保护？ ⼀、需求缘起 第⼀篇⽂章“⼀分钟了解负载均衡”和⼤家share 了互联⽹架构中反向代理层、站点层、 服 层、数据层的常⽤负载均衡⽅法。 第⼆篇⽂章“lvs为何不能完全代替DNS轮询”和⼤家share 了互联⽹接⼊层负载均衡需要 解决的问题及架构演进。 在这两篇⽂章中，都强调了“负载均衡是指，将请求/数据 【均匀】分摊到多个操作单 元上执⾏，负载均衡的关键在于 【均匀 ” 。 然⽽，后端的service有可能部署在硬件条件不同的服务器上： 1）如果对标最低配的服 器“均匀”分摊负载，⾼配的服 器的利⽤率不⾜； 2 ）如果对标最⾼配的服 器“均匀”分摊负载，低配的服 器可能会扛不住； 能否根据异构服 器的处理能⼒来动态、⾃适应进⾏负载均衡及过载保护，是本⽂要 讨论的问题。 ⼆、service层的负载均衡通常是怎么做的 “⼀分钟了解负载均衡” 中提到，service层的负载均衡，⼀般是通过service连接池来实 现的，调⽤⽅连接池会建⽴与下游服 多个连接，每次请求“随机”获取连接，来保证 service访问的均衡性。 “RPC-client实现细节” 中提到，负载均衡、故障转移、超时处理等细节也都是通过调⽤ ⽅连接池来实现的。 这个调⽤⽅连接池能否实现，根据service的处理能⼒