如何实现高性能负载均衡品高云公开课.doc

如何实现高性能负载均衡 | 品高云公开课 小编的话 “品高公开课”系列文章意在分享技术牛人的知识干货，和大家一起交流学习云知识，每期主题都不一样哟！期待各位读者在文后发表留言，来一场技术上的交流和思想上的碰撞！本期品高公开课由吴炯辉带来“如何实现高性能负载均衡”的技术分享。 分享嘉宾 吴炯辉，目前就任品高云架构产品部的软件开发工程师。专注于SDN开发和云网络安全领域，拥有多年网络程序开发经验。15年开始转向SDN方向的研究，主要负责SDN和云网络安全的开发任务。 分享正文 而在云网络中，对负载均衡的需求是大量存在的，因此各个云厂商都对应其产品开发出不同的负载均衡器。 这里，我们品高也因应这个大环境开发出一种具有一定颠覆性的负载均衡器。在正式介绍品高云网络负载均衡器之前，我们先看看传统上比较常用的负载均衡部署方法。 代理式负载均衡： 在负载均衡器的发展历史上，代理式负载均衡器是一种比较常用也是最早出现的基于代理服务器软件实现的一种代理方式。 它是一种双向代理的负载均衡器，好处是通用容易理解并且配置简单成熟，后排机器不需要任何操作。但又往往因为双向的流量都需要通过负载均衡器处理，所以这种方式的负载均衡，通常都需要一个性能极其优秀的机器作为负载均衡器，不然很可能会成为这个网络中的性能瓶颈位。 ? ? LVS-DR模式负载均衡器的工作原理是：客户端发送请求到负载均衡器的VIP，然后通过负载均衡处理后到后排机器，后排机器收到请求后，直接回复到客户端而非再次通过负载均衡器。 这样解决了来回双向流量都要经过代理机器的问题，但使用LVS的不足是负载均衡器和后排服务器都需要配置VIP。综合上来说，这种模式的负载均衡在性能上有很大的提升。 ? 在介绍完两个传统的负载均衡器后。我们正式介绍一下品高云网络负载均衡器，我们的均衡器基于SDN上，吸收了LVS-DR模式——高效低成本特性的负载均衡器。屏弃了VIP的配置，同时支持Keepalived等常用配备，也可选择配备专用的品高WAF防火墙作为安全的保证。 那么我们的负载均衡器是怎样工作的呢？我们来具体一点说说。 当客户端访问负载均衡器时，SDN控制器会配置正向的流表，让数据包送达负载均衡器，同时SDN控制器会配置后排机器访问客户端的流表，以达到当后排机器可以正常回包到客户端的目的。 那为什么不让后排机器访问客户机时才配置流表？正常来说，SDN控制器会在有新的数据包到达，才会配置一条让数据包通过的流表到物理节点(NC)。 品高云是单向通过负载均衡器，当后排机器要响应请求去查找客户端MAC地址时，如果负载均衡器和后排机器不是同一控制器管理的话，不能快速查找到MAC地址，这样就违背了高效的特点了。 综合情况，品高云是让后排机器访问客户端的流表在客户端发送请求时就配置完毕。 ? 好了，说完了品高负载均衡器的一些工作原理和技术细节之后。我们来谈谈我们的品高负载均衡器有究竟具有了哪些颠覆性的亮点。 这些亮点是品高负载均衡器的价值所在，对于用户来说，它可以得到与使用其他负载均衡所没有的愉快体验。 免VIP： 免VIP是针对LVS和Keepalived来说的，即免除了LVS头机和后排机器的VIP。可以降低再次购买公有IP的成本。? 高性能： 性能高低是判断负载均衡器是否值得使用的重要指标。品高云可以满足绝大部分想用低成本就获得高效的用户的要求。 这里列举了一下用Nginx、Apache和品高负载均衡器作为均衡器的测试数据。很明显的是品高负载均衡器的处理能力，随着客户端的并发数上升而线性上升。  弹性： 弹性是指即时添加后排机器即时可用，扩容方便。传统的负载均衡器如果要添加一台后排机器需要重新编写配置文件，而且必须重新启动应用。而品高负载均衡器则无需这些操作，避免消耗配置时间。? 安全：? 品高负载均衡器可选择配备专用的品高WAF。针对SQL注入、XSS危险字段、敏感字段、自定义规则都可以用很好的防护功能。 ? 其他云厂商负载均衡器介绍 说完了我们的品高负载均衡器的亮点之后。可能我们还想知道其他云厂商的负载均衡器是怎样的。 所以我们还分别测试了阿里云和青云的负载均衡器，看看它们的工作状况是如何的。 我们在他们的云平台上同样创建两台2核2G内存的后排机器，一台负载均衡器和两台2核2G内存的测试客户端。 也同样使用了autobench和ab工具，对负载均衡器进行并发测试和性能压力测试得出一些数据。 从下面第一张表中，我们可以看到，阿里云的负载均衡器的并发处理能力到7000并发数时，就开始处于一个峰值位置，直到21000并发数时，才开始不平稳而且急速衰减。 而第二张表中，我们可以看到300000个包的处理总耗时是52秒多，而且90%的包的处理时间都在319ms内。 这样一个数据是一个不错的数据，可以看出阿里云的负载均