云计算的关键技术.pdfVIP

云计算的关键技术 云计算 （cloudcomputing，分布式计算技术的一种，其最基本的概念，是透过网络将庞 大的计算处理程序自动分拆成无数个较小的子程序，再交由多部服务器所组成的庞大系统经 搜寻、计算分析之后将处理结果回传给用户。稍早之前的大规模分布式计算技术即为“云计 算”的概念起源。 云计算系统运用了许多技术，其中以编程模型、数据管理技术、数据存储技术、虚拟化 技术、云计算平台管理技术最为关键。 云计算的核心技术 (1)编程模型 MapReduce是Google开发的java、Python、C++编程模型，它是一种简化的分布式 编程模型和高效的任务调度模型，用于大规模数据集（大于1TB）的并行运算。严格的编 程模型使云计算环境下的编程十分简单。MapReduce模式的思想是将要执行的问题分解成 Map(映射)和Reduce(化简)的方式，先通过Map程序将数据切割成不相关的区块，分配（调 度）给大量计算机处理，达到分布式运算的效果，再通过Reduc 程序将结果汇整输出。 (2)海量数据分布存储技术 云计算系统由大量服务器组成，同时为大量用户服务，因此云计算系统采用分布式存储 的方式存储数据，用冗余存储的方式保证数据的可靠性。云计算系统中广泛使用的数据存储 系统是Googl 的GFS和Hadoop团队开发的GFS的开源实现HDFS。 GFS即Googl 文件系统（GoogleFileSystem），是一个可扩展的分布式文件系统， 用于大型的、分布式的、对大量数据进行访问的应用。GFS的设计思想不同于传统的文件 系统，是针对大规模数据处理和Googl 应用特性而设计的。它运行于廉价的普通硬件上， 但可以提供容错功能。它可以给大量的用户提供总体性能较高的服务。 一个GFS集群由一个主服务器（master）和大量的块服务器(chunkserver)构成，并被 许多客户（Client）访问。主服务器存储文件系统所以的元数据，包括名字空间、访问控制 信息、从文件到块的映射以及块的当前位置。它也控制系统范围的活动，如块租约（leas ） 管理，孤儿块的垃圾收集，块服务器间的块迁移。主服务器定期通过HeartBeat消息与每一 个块服务器通信，给块服务器传递指令并收集它的状态。GFS中的文件被切分为64MB的 块并以冗余存储，每份数据在系统中保存3个以上备份。 客户与主服务器的交换只限于对元数据的操作，所有数据方面的通信都直接和块服务器 联系，这大大提高了系统的效率，防止主服务器负载过重。 (3)海量数据管理技术 云计算需要对分布的、海量的数据进行处理、分析，因此，数据管理技术必需能够高效 的管理大量的数据。云计算系统中的数据管理技术主要是Googl 的BT(BigTable)数据管理 技术和Hadoop团队开发的开源数据管理模块HBas 。 BT是建立在GFS,Scheduler,LockServic 和MapReduc 之上的一个大型的分布式数 据库，与传统的关系数据库不同，它把所有数据都作为对象来处理，形成一个巨大的表格， 用来分布存储大规模结构化数据。 Googl 的很多项目使用BT来存储数据，包括网页查询，Googl arth和Googl 金融。 这些应用程序对BT的要求各不相同：数据大小（从URL到网页到卫星图象）不同，反应 速度不同（从后端的大批处理到实时数据服务）。对于不同的要求，BT都成功的提供了灵 活高效的服务。 （4）虚拟化技术 通过虚拟化技术可实现软件应用与底层硬件相隔离，它包括将单个资源划分成多个虚拟 资源的裂分模式，也包括将多个资源整合成一个虚拟资源的聚合模式。虚拟化技术根据对象 可分成存储虚拟化、计算虚拟化、网络虚拟化等，计算虚拟化又分为系统级虚拟化、应用级 虚拟化和桌面虚拟化。 （5）云计算平台管理技术 云计算资源规模庞大，服务器数量众多并分布在不同的地点，同时运行着数百种应用， 如何有效的管理这些服务器，保证整个系统提供不间断的服务是巨大的挑战。 云计算系统的平台管理技术能够使大量的服务器协同工作，方便的进行业务部署和开 通，快速发现和恢复系统故障，通过自动化、智能化的手段实现大规模系统的可靠运营。 在vForum2011大会的媒体见面会上，VMwar 公司亚太区兼日本区总经理 Andr