大规模游戏平台云缓存技术研究与实践.docVIP

大规模游戏平台云缓存技术研究与实践 　　编者按 　　在数据呈爆炸性增长的时代，云计算与大数据技术的重要性不言而喻，对海量数据的挖掘、分析与应用已成热点。本次专题在着重探讨电信运营商该如何发掘大数据价值、拓展新型增值业务的基础上，亦提出了大数据在金融、旅游等领域的具体应用。此外，有关云缓存技术、大数据融合建设的研究在专题中也有所体现，希望通过本次专题为云计算与大数据的发展提供一些思路与建议。 　　【摘 要】传统的缓存处理机制难以满足互联网业务高并发、高性能的需求，因此提出了动静结合的多级云缓存架构，可支持大规模数据存储和快速检索查询服务，并基于一致性哈希算法，实现了对多分布式服务节点的统一管理和调度效率提升，最后通过在大规模游戏业务平台开展的实践，验证了平台性能和访问速度的大幅提升。 　　【关键词】大规模游戏平台 云缓存 数据存储 　　中图分类号：TP399 文献标识码：A 文章编号：1006-1010（2016）05-0005-05 　　1 引言 　　近年来，以游戏、视频为代表的移动互联网应用高速发展。与传统电信应用相比，大型移动互联网应用具有以下特点： 　　（1）高并发、大流量：数以亿计规模的高并发用户，长时间的大流量访问； 　　（2）海量数据：存储、管理海量数据，需要使用大量服务器； 　　（3）用户接入环境复杂：面向全球用户提供服务，用户网络环境千差万别； 　　（4）短时间用户增长迅速，急需大量资源； 　　（5）产品复杂多样，需求快速变更。 　　为了满足多网络用户快速接入需求，提升用户体验，传统电信业务平台多采用内容分发（CDN，Content Delivery Network）缓存机制。但动态缓存数据管理较为复杂，缺乏灵活性，无法满足快速增长和超高的游戏业务峰值并发服务需求。 　　基于此，本文接下来将提出动静结合的多级云缓存框架，以适应大规模移动互联网业务平台的承载需求。在传统CDN文件缓存基础上引入Varnish静态缓存、基于MAP的本地动态缓存和Redis远程动态缓存，构建多级云缓存，并通过实践证明其实现了高性能I/O吞吐能力，减少了服务器和核心数据库的交互次数，提高了接口访问速度和并发量。同时将缓存处理逻辑封装，面向应用层业务需求统一开放接口，提高了上层应用开发效率。 　　2 动静结合的云缓存架构 　　常见的互联网业务多采用分布式的内容分发缓存机制。在中国电信、中国移动、中国联通网络中部署服务器节点，以某一节点为中心，实现多节点间的数据共享和同步。不同网络的用户可以就近接入CDN节点，快速、高效地获取应用内容。基于CDN机制的缓存架构图如图1所示： 　　在实际业务运营中，传统的CDN缓存机制对动态缓存数据管理较为复杂，缺乏灵活性。尤其是新业务上线时，需要大量人力检查并修改缓存文件，给业务快速部署和服务灵活提供带来了严重的挑战。 　　针对上述问题，本文提出了动静结合的云缓存架构，以满足高并发的移动互联网业务承载需求。该架构具备横向扩展能力，相对上层业务系统透明，可根据业务的发展，平滑扩展存储性能与容量，动态满足业务需求，有效地提升系统资源利用率。系统架构如图2所示： 　　中心数据库采用关系型数据库MySQL和非关系型数据库MongoDB。本地动态缓存采用MAP内存处理技术，远程动态缓存采用Redis技术；本地缓存和远程缓存之间通过事件驱动模型实时更新和维护数据；采用XML标记语言，以标准格式封装缓存处理逻辑以及各种查询、数据同步、容灾备份等统一数据服务的业务逻辑，并以Java接口方式封装成API，提供给相关业务统一调用。各种业务调用缓存机制后，输出结果采用静态缓存Varnish技术进行加速，以提升效率。 　　通过对缓存处理逻辑的封装，为应用业务层提供了统一的存储访问接口，使开发人员从繁杂的缓存维护同步工作中解脱出来，专注于业务开发，从而提高了开发效率，减少了由于缓存数据维护不一致而导致的系统漏洞和缺陷，提升了系统稳定性。 　　3 关键技术方案 　　3.1 静态缓存和动态缓存机制 　　在静态缓存方面，采用高性能的开源HTTP加速器Varnish技术，缓存静态页面和一些重要业务的静态数据。Varnish基于内存进行缓存，性能好，单台服务并发可达到5000次/s。采用反向代理Web容器定期维护缓存数据。当Tomcat服务器出现故障时，可自动切换到Varnish，提高了平台的稳定性。 　　在本地动态缓存方面，将用户访问频繁的静态数据备份到本地基于MAP的内存缓存中，以减少网络I/O的消耗，提高平台的并发量。 　　本地缓存中各集群节点的数据维护采用组播技术实现。所有节点均为对等模式，节点自动发现，不存在主节点选举。每个节点都维护一份集群成员表，新节点加入时，通知集群其他