原创力文档- 1、本文档共10页，可阅读全部内容。
- 2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
- 3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
查看更多
Shuffle过程详解;1.掌握Map-Shuffle的相关定义 2.掌握Reduce-Shuffle 的相关定义 ;1. Map-Shuffle 2. Reduce-Shuffle ;Map-Shuffle;Map-Shuffle;;① MapTask完成任务数超过总数的5%后，开始调度执行ReduceTask任务
② 各Reduce Task 并行拉取数据
每个ReduceTask默认启动5个copy线程到已完成的MapTask任务节点上分别copy一份属于自己的数据（使用Http的方式）
③ 保存数据先到memory buffer 再merge到磁盘
先buffer后磁盘，执行combiner（如果有）
④ 启动磁盘到磁盘的Merge生成最终的文件
⑤ shuffle过程结束。之后运行reduce方法，执行相应的业务逻辑
;Reduce端的shuffle主要包括三个阶段，copy、sort(merge)和reduce。
首先要将Map端产生的输出文件拷贝到Reduce端
接下来就是sort阶段，也成为merge阶段，因为这个阶段的主要工作是执行了归并排序
最后就是Reduce过程了;1. Shuffle过程 -- Map-Shuffle -- Reduce-Shuffle
文档评论（0）