关于MapReduce详细工作流程,你真的都知道吗??

毫无疑问,Hadoop 里面最复杂的是MapReduce,那么今天咱们就来看看它的整体工作流程:
在这里插入图片描述
在这里插入图片描述

怎么样?是不是懵了?
简单说下我的理解:
上面的流程是整个 mapreduce 最全工作流程,但是 shuffle 过程只是从第 7 步开始到第16 步结束,具体 shuffle 过程详解,如下:

1. maptask收集我们的 map()方法输出的 kv对,放到内存缓冲区中
2. 从内存缓冲区不断溢出本地磁盘文件,可能会溢出多个文件
3. 多个溢出文件会被合并成大的溢出文件
4. 在溢出过程中,及合并的过程中,都要调用 partitioner进行分区和针对 key进行排序 
5. reducetask根据自己的分区号,去各个 maptask机器上取相应的结果分区数据
6. reducetask会取到同一个分区的来自不同 maptask的结果文件,reducetask会将这些文件再进行合并(归并排序)
7. 合并成大文件后,shuffle的过程也就结束了,后面进入 reducetask的逻辑运算过程 (从文件中取出一个一个的键值对 group,调用用户自定义的reduce()方法)

好了,就这么多了,如果发现错误,欢迎指正呦!

猜你喜欢

转载自blog.csdn.net/Forever_ck/article/details/84589932
今日推荐