大数据时代数据管理技术的研究综述.docVIP

大数据时代数据管理技术的研究综述 　　摘要：随着计算机技术和网络的快速发展，半结构化和非结构化等类型数据成几何倍增长，学习和使用大数据管理技术顺应时代发展潮流。本文从数据管理技术的发展进程出发，介绍了人工管理方式、文件系统管理方式、数据库管理方式三种阶段的管理方式。然后详细介绍了关系数据库和NoSQL非关系数据库，并且将两者从三种角度进行了对比。最后对未来大数据时代数据管理方式作出了展望。 　　关键词：计算机应用技术；大数据；数据管理技术；关系数据库；NoSQL数据库 　　中图分类号：TP392 文献标识码：A DOI： 10.3969/j.issn.1003-6970.2015.10.013 　　引言 　　随着计算机和网络技术的快速发展，移动互联、社交网络、电子商务、云计算等各种新兴服务的兴起，极大拓展了互联网的疆界和应用领域，随之产生的是海量的数据，这些数据不仅来源的渠道多样，并且数据规模和数据种类也是快速的增长，大数据时代已经来临。大数据时代，无法将海量数据存储和管理在一台或者有限数目的服务器内，更无法借助有限的计算机去处理和管理大数据。因此，如何利用现有的资源应对当前数据量的快速增长，实现对大数据的有效、便捷、安全的管理，是当前国内外关于数据管理和数据分析亟需解决的问题。 　　1 数据管理技术的发展 　　数据管理是指对各种类型的数据进行采集、存储、分类、计算、加工、检索和传输的过程。随着计算机和网络技术的不断发展和改进，数据库管理技术也在不断的更新换代。到目前阶段为止，数据管理技术主要发展历程经历了以下阶段：人工数据管理方式、文件系统管理方式和数据库系统管理方式。 　　1.1 人工数据管理方式 　　20世纪50年代中期，计算机初期被应用于科学计算方面，因此，早期的数据处理都是手工完成的。数据存储只有磁带、卡片和纸带等低速存储设备。既没有操作系统，也没有管理数据的专门软件，此阶段管理的数据，不能进行共享，且没有独立性，数据纯粹面向应用，服务于应用。 　　1.2 文件系统管理方式 　　20世纪60年代中期，随着计算机进一步的发展，不仅用于科学计算，而且更多地用于信息处理。对于数据存储，有了磁盘、磁鼓等存储设备。操作系统和高级语言的出现为文件系统管理提供了可能。此阶段的文件系统，是按照相应的规则将数据组织成一个独立的命名文件。这一时期的数据特点是：数据可以长期存储在磁盘上、有专门的软件进行管理维护、数据不再独立存在，数据不止服务于应用，在一定程度上，数据的共享性得到了提高。 　　1.3 数据库系统管理方式 　　20世纪60年代后期，数据库系统管理方式逐渐形成并具有一定的规模。由于磁盘技术的不断进步和发展，低成本、高速的硬盘占领了市场，为新的数据管理技术提供了产生的必要条件。对应的软件技术也有一定的发展。数据库系统是由计算机的软硬件资源共同组成，实现了数据的动态、有规则、独立存储。如图1所示。 　　2 大数据管理技术 　　大数据是指无法在可承受的时间范围内用常规软件工具进行捕捉、管理和处理的数据集合。归结为四个特点就是四“V”，即大量（Volume）、高速（Velocity）和多样性（Variety）和价值（Value）。大数据首先体现在数据量上：全球著名咨询机构IDC（国际文献资料中心）在2006年估计全世界产生的数据量是0.18ZB（1ZB=100万PB），而截至2011年这个数字已经提升了一个数量级，达到1.8ZB。这种数据产生的速度仍在增长，预计2015年将达到8ZB。随着数据量的增长，得到庞大的数据源和样本数据后，人们并不能容忍对于这些庞大的数据处理响应时间。因此，大数据需要在数据量提高的前提下，数据的处理和响应能力进行提高，从而确保数据延迟可以在人们的接受范围之内。因此数据处理要得到有效的保证，那如何存储和组织管理这些海量数据，值得我们去探索和研究。 　　2.1 关系型数据库（RDBMS） 　　2.1.1 关系数据库的提出 　　20世纪70年代初，IBM工程师Codd发表了一篇论文“A Relational Model of Large Shared DataBanks”，随之关系数据库时代宣告到来。关系数据库管理系统（Relational Database ManagementSystem，简称RDBMS）就是基于上述的论文而被设计出来的。在关系数据库之前的系统主要有基于层次模型的层次数据库、基于网状模型的网状数据库等。以上几种数据库的主要不足是数据模型是很难被用户所理解，并且编写的软件与数据模式依赖性比较高。Codd提出的关系数据模型是基于表格、行、列、属性等基本概念，将现实世界中的各类实体及其关系映射到表格上，并且还为关系模型建立了关系代数运算。 　　2.1.2 关系数