大数据信息检索论文.docVIP

大数据的概念、技术与挑战 学 院： 信息科学与技术学院 专业名称： 计算机应用技术 学 号： 姓 名： 指导教师： 时 间：  大数据的概念、技术与挑战 【摘要】计算、物联网、社交网络等新兴服务促使人类社会的数据种类和规模正以前所未有的速度增长，大数据时代正式到来．数据从简单的处理对象开始转变为一种基础性资源，如何更好地管理和利用大数据已经成为普遍关注的话题．大数据的规模效应给数据存储、管理以及数据分析带来了极大的挑战，数据管理方式上的变革正在酝酿和发生．对大数据的基本概念进行剖析，并对大数据的主要应用作简单对比．在此基础上，阐述大数据处理的基本框架，并就云计算技术对于大数据时代数据管理所产生的作用进行分析．最后归纳总结大数据时代所面临的新挑战． 【关键词】大数据，技术，挑战，数据分析，云计算 近年来，伴随着物联网、云计算、移动互联网等新技术的迅猛发展，数据正以前所未有的速度不断增长和积累，大数据时代已经到来，这引起了产业界 学术界 科技界和政府机构的广泛关注。 大数据的火热并不意味着对于大数据的了解深入，反而表明大数据存在过度炒作的危险．大数据的基本概念、关键技术以及对其利用上均存在很多的疑问和争议。 大数据的基本概念及大数据时代产生的必然 数据是云计算技术的延伸，更是社会进步和发展的必然结果，大数据时代的到来引领了未来IT技术发展的战略走向。在信息和网络技术飞速发展的今天，越来越多的企业业务及社会活动实现了数字化，特别是随着数据生成的自动化及数据生成速度的加快，数据量也随之快速增长。同时，随着存储设备、内存、处理器等电脑元件成本的稳定下降，使得之前较昂贵的大规模数据存储和处理变得十分经济，也使得大数据的存在成为可能。传感器数据也是大数据的主要来源之一。在物联网时代，成万上亿计的网络传感器嵌入在数量不断增长的智能电表、移动电话、汽车等物理设备中，不断感知、生成并传输超大规模的有关地理位置、振动、温度、湿度等新型数据。 大数据的特点及关键技术分析 1.大数据的特点 大数据不是一种新技术，也不是一种新产品，而是一种新现象，是近来研究的一个技术热点 大数据具有以下4个特点，即4个V: ( 1) 数据体量( Volumes) 巨大大型数据集，从TB级别，跃升到PB级别； ( 2) 数据类别( Variety) 繁多 数据来自多种数据源，数据种类和格式冲破了以前所限定的结构化数据范畴，囊括了半结构化和非结构化数据； ( 3) 价值( Value) 密度低 以视频为例，连续不间断监控过程中，可能有用的数据仅仅一两秒钟； ( 4) 处理速度( Velocity) 快 包含大量在线或实时数据分析处理的需求，1秒定律。 随着互联网技术的不断发展，数据本身就是资产云计算为数据资产提供了保管访问的场所和渠道，但如何盘活数据资产，使其为国家治理企业决策乃至个人生活服务，是大数据的核心议题，也是云计算的灵魂和必然的升级方向。 关键技术 2.1云计算;大数据的基础平台与支撑技术 如果将各种大数据的应用比作一辆辆“汽车”，支撑起这些“汽车”运行的“高速公路”就是云计算．正是云计算技术在数据存储、管理与分析等方面的支撑，才使得大数据有用武之地．文件系统是支撑上层应用的基础。原始的数据存储在文件系统之中，但是用户习惯通过数据库系统来存取文件．因为这样会屏蔽掉底层的细节，且方便数据管理．直接采用关系模型的分布式数据库并不能适应大数据时代的数据存储。据查询是数据库最重要的应用之一，而索引则是解决数据查询问题的有效方案。而数据分析技术是最核心的业务。 2.2大数据处理工具 关系数据库在很长的时间里成为数据管理的最佳选择，但是在大数据时代，数据管理、分析等的需求多样化使得关系数据库在很多场景不再适用．而HadOop是目前最为流行的大数据处理平台．而Hadoop最先是Doug Cutting模仿GFS，MapReduce实现的一个云计算开源平台，后贡献给Apache．Hadoop已经发展成为包括文件系统(HDFS)、数据库(HBase、Cassandra)、数据处理(MapReduce)等功能模块在内的完整生态系统(Ecosystem)．某种程度上可以说Hadoop已经成为大数据处理工具事实上的标准． 三、大数据时代面临的机遇与挑战 综上所述，大数据时代的数据存在着如下几个特点：多源异构；分布广泛；动态增长；先有数据后有模式．正是这些与传统数据管理迥然不同的特点，使得大数据时代的数据管理面临着新的机遇与挑战。 大数据带来的机遇 1.大数据的挖掘和应用成为核心，将从多个方面创造价值。 大数据的重心将从