大数据云计算技术.pptxVIP

大数据云计算技术mr.zhu目 录第一部分云计算平台架构1.1clouDil1.2MapReduce+TaskMaster1.3DataCube1.4cCloud1.5cStor第二部分云计算平台能力云计算平台架构真正的云计算平台，它有五层架构：运维管理层：clouDil计算层：MapReduce+TaskMaster数据管理层：DataCube虚拟化层：cCloud存储层：cStor云计算平台架构目 录第一部分云计算平台架构1.1clouDil1.2MapReduce+TaskMaster1.3DataCube1.4cCloud1.5cStor第二部分云计算平台能力clouDil云平台管理系统 在搭建云计算平台时，遇到了很多的问题和挑战。开始搭建时，第一次来了那么多性能强劲的机器，我们在感到兴奋的同时，也不免有些顾虑。出了问题怎么办，有没有预警机制？有没有可视化的管理界面？机器宕机，管理员能否实时监控到？如何做性能调优？扩容升级时，能否给出依据？ 带着这些问题，我们开始了自己的云计算平台管理和运营之旅，现在完美的形成了一整套云计算平台管理体系。clouDil云平台管理系统流量监控clouDil云平台管理系统健康度报告clouDil云平台管理系统节点性能监控clouDil云平台管理系统集群状态监控clouDil云平台管理系统集群状态监控目 录第一部分云计算平台架构1.1clouDil1.2MapReduce+TaskMaster1.3DataCube1.4cCloud1.5cStor第二部分云计算平台能力MapReduce编程模型MapReduce是一种编程模型，用于大规模数据集（大于1TB）的并行运算。TaskMaster云计算调度平台 TaskMaster是云创存储自主研发的一款高效云调度平台。它保证在云计算平台中部分硬件或软件发生故障的情况下仍不影响系统的正常运行；保证在云计算平台中高效稳定的合理化分配和执行任务，同时能够完美解决系统单点故障问题，负载均衡，自动调度与部署。TaskMaster云计算调度平台产品优势高可靠性：采用“多主多备，负载均衡”的管理节点，从而保证无论管理节点还是处理节点都不存在任何单点故障问题。低依赖性：采用模块化设计思想，通过统一化配置和API接口的方式向用户提供服务。低干预性：采用基于事件化的统一管理模式。在系统无人值守的情况下自动完成故障处理等功能。高实时性：在机器性能允许的范围内，所有任务的控制工作基本都在秒级完成，具有前所未有的高效性。目 录第一部分云计算平台架构1.1clouDil1.2MapReduce+TaskMaster1.3DataCube1.4cCloud1.5cStor第二部分云计算平台能力DataCube(数据立方) 数据立方是一种高效分布式的处理海量数据的云处理软件，具有从TB乃至PB级的数据中挖掘出有用的信息并进行快捷、高效处理的能力，同时支持数据仓库存储和商业智能分析等业务。该软件基于hadoop平台大数据处理的解决方案，具有处理能力高效、超高可靠性的优点。DataCube(数据立方)产品特点对任意多关键字实时索引支持类SQL复杂并行组合查询分布式万兆实时数据流秒级处理系统无单点，确保意外情况下，系统的正常运行数据立方管理系统数据立方管理系统数据立方管理系统目 录第一部分云计算平台架构1.1clouDil1.2MapReduce+TaskMaster1.3DataCube1.4cCloud1.5cStor第二部分云计算平台能力cCloud虚拟化云计算平台 cCloud是南京云创存储科技有限公司自主研发的虚拟化云计算平台。 cCloud平台可以加速高伸缩性的公共和私有云IaaS的部署、管理、配置。帮助企业用户快速而轻松地将虚拟数据中心资源转 入自动化、富于弹性且可自我服务的云平台中。另外cCloud兼容亚马逊API接口允许跨cCloud和亚马逊平台实现负载兼容。使用cCloud作为基础数据中心操作者可以快速方便的通过现存基础架构创建云服务。cCloud虚拟化云计算平台cCloud系统构架cCloud后台管理系统cCloud后台管理系统cCloud后台管理系统cCloud后台管理系统目 录第一部分云计算平台架构1.1clouDil1.2MapReduce+TaskMaster1.3DataCube1.4cCloud1.5cStor第二部分云计算平台能力cStor云存储系统 cStor云存储系统是南京云创存储自主研发的高科技产品。与传统的大规模存储系统相比，cStor针对绝大多数数据密集型应用的特点从多个方面进 行了优化，从而在一定规模下达到成本、可靠性和性能的最佳平衡。 目前，cStor云存储系统已成功应用于安防、广电、交通、电信、政务等诸多领域。cStor云存储系统产