MapReduce上在线聚集函数的应用分析.pdfVIP

下载本文档

0
0
约4.98万字
约 49页
2019-06-22 发布于安徽
举报
版权申诉

MapReduce上在线聚集函数的应用分析.pdf

1、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。。
2、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击这里二次下载。
3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
4、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
5、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
6、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
7、VIP文档为合作方或网友上传，每下载1次，网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档

MapReduce上在线聚集函数的应用研究目录参考文献…………………………………………………………………………………．44 附录l用户自定义类…………………………………………………………………45 附录2参数设置………………………………………………………………………46 附录3实验代码…………．．．…………。……………．．．……………………………一47 附录4实验数据………………………………………………………………………48 附录5实验代码………………………………………………………………………49 万方数据 MapReduce上在线聚集函数的应用研究摘要摘要 Hadoop是一个分布式系统基础架构。用户可以在不了解分布式底层细节的情况下，开发分布式系统。充分利用集群的高速运算和存储能力。因为其简单的编程结构和对大数据的支持而被广泛应用。同时，Hadoop也有其缺点，那就是响应时间非常高，只有全部数据都处理完后才可以得到最终结果，中间无法给出中间结果。很多应用中，用户希望在程序处理过程中不断的得到相似的中间结果。对于这类应用，传统的Hadoop是不能满足这种需求。UCBerkeley的Tyson Online Online论文实现了．Hadoop 现了Hadoop在运行过程中产生中间结果。HOP通过Map将分批次将结果传输给目前运行产生的所有结果，Reduce每次给出中间结果都是要将所有的数据都重新计算一遍并产生中间结果。本文提出一种对Hadoop产生中间结果的另一种思路：OnlineMapReduce 分用户自定义数据格式并去产生中间结果。本文设计了一个新的系统：Online MapReduce 中间结果的另一种思路：Map维护着一个用户自定义数据结构，每隔一段时间Map 都会将此数据结构传递给Reduce，Reduce收到这部分用户自定义数据结构并产生中间结果。聚集函数关键词：MapReduce；HOP：Hadoop；万方数据 Abstract Apache isan software Hadoopopen—source frmneworkthatallowsforthe dis仃ibuted of datasetsacross processing clustersof large computers usingsimpleprogramming models．Without ofthe detailsof incomprehensionground．1evel canstill Hadoop。users of developdistrib．uted the systemtakingadvantage and hig