一种基于预测动态负载均衡算法及实现.docVIP

一种基于预测的动态负载均衡算法及实现 　　摘 要：随着云计算的大规模普及，负载均衡已经以用户服务的形式出现在云平台上，但传统的负载均衡算法不能利用云平台动态管理计算资源的优势。基于预测的动态负载均衡算法根据当前云平台应用负载特征使用BP神经网络对负载进行实时预测，然后根据预测的负载变化趋势提出负载均衡器后端实例调整策略。实验结果表明，基于预测的动态负载均衡算法能够在满足用户SLA的前提下，促进资源节约。 　　关键词：云计算；负载均衡；BP神经网络；OpenStack 　　中图分类号：TP312 文献标识码：A 文章编号：1672-7800（2016）003-0059-04 　　作者简介：余钦水（1989-），男，江西上饶人，江苏大学计算机与通信工程学院硕士研究生，研究方向为云计算；李星毅（1969-），江苏镇江人，博士，江苏大学计算机与通信工程学院副教授、硕士生导师，研究方向为智能交通、复杂系统智能分析。 　　0 引言 　　负载均衡技术是一项已经广泛应用在各类网络服务中的成熟技术，其将多个节点的计算资源进行集中管理，以期实现资源最优化使用。在传统服务器及网络管理方式下，对服务器及网络进行规划部署，尤其是异地机房部署颇为复杂。负载均衡器部署完后，由于人力投入和系统稳定性等因素的影响，管理员一般不会频繁对负载均衡后端实例数量规模进行调整，尤其不可能对负载均衡器后端实例进行实时调整。因此，目前成熟的负载均衡算法主要考虑将负载尽可能均衡地分配给后端实例，或者是为用户提供最优后端实例，但都没有考虑如何节约计算资源。 　　伴随着云计算的爆发式增长，大量的人工管理工作可以交由云平台完成。在云计算环境下，用户可以便捷地增加、减少实例数量，这也意味着用户可以便捷地管理负载均衡器后端的实例数量。目前，LBaaS（负载均衡即服务）这一伴随云计算爆发性增长而出现的新型服务模型已被提出[1]。LBaaS是一个类似于PaaS、SaaS的概念，其目的是将负载均衡作为一种服务提供给用户，用户无需关注其实现细节。但是，目前几大云平台尚只提供了几种传统的负载均衡算法[2]。因此，本文在云计算环境下提出了一种基于预测的动态负载均衡算法，其基于预测对计算资源进行动态调整，以期在满足用户SLA[3]的前提下，节省资源。 　　本文依据当前互联网用户访问数据的特征提出了负载预测模型，并提出了相应的后端实例调整策略。根据该策略指导系统对负载均衡器的后端实例数量进行调整，从而完成整个算法流程。同时，本文在OpenStack LBaaS[4]基础上实现了该算法，并使用真实网络环境数据对本文算法实现进行了验证。 　　1 基于预测的动态负载均衡算法模型 　　1.1 负载预测模型 　　关于负载预测的研究，学术界的主流方向是将两种乃至多种机器学习算法模型进行组合。这一类算法模型能够减少甚至规避单一模型的缺陷，但也提高了算法的复杂度[5]。单一的机器学习算法模型在满足较低资源消耗的前提下，能够达到一定的预测精度要求。因此，在预测系统中采用了BP神经网络模型。BP神经网络是一种成熟的算法模型，其通过学习，对神经元网络进行组织，达到数据集的最佳拟合，从而对负载进行有效预测。 　　部署在云平台上的绝大多数都是Web应用[6]，系统负载都是由Web页面访问量带来，也即PV（页面用户访问量）可以用来表示用户访问所带来的负载。如图1所示，本文收集了某一网站连续30天的PV变化[7]，其用户每天访问的时间符合一定的规律。每天的01：00 am-08：00am是用户访问的低峰期，12：00：am-23：00pm是用户访问的高峰期；每周的用户访问呈现一定的规律，周末的用户访问要多于工作日。 　　1.2 基于预测的资源调度策略 　　云计算环境下，新建和删除一个实例较简单，但需要耗费一定时间，同时该过程伴随着大量的CPU及IO操作，如果频繁进行这一系列操作，将会对系统性能及稳定性造成很大的负面影响。互联网用户访问流量除了具有相似性外还具有一定的突变性[9]，如果进行预测调整的时间间隔过小，会导致大量的实例创建及删除操作，这使得采用本文算法后所节省的资源远比不上调整过程中的资源浪费，以及系统稳定性的损失。因此，本文的调度策略以较长的时间间隔来实施。同时，负载均衡不仅只对资源进行优化和集中分配，在拥有多个后端实例时，负载均衡还能有效提升系统可用性，即负载均衡器后端实例数量越多，因实例故障导致系统崩溃的概率越低。因此，要防止调度策略过于激进，使得后端实例过少，甚至长时间处于只有单个实例状态，从而导致系统可用性降低。负载均衡中的负载包含多个硬件资源的使用，如CPU、内存、IO、网络等，如果考虑所有负载，资源调度策略将会十分复杂。本文为了简化调度策略，便于算法实现，只考虑CPU这一种负载情