黑猴子的家:ReduceTask工作机制

1、设置ReduceTask

reducetask的并行度同样影响整个job的执行并发度和执行效率,但与maptask的并发数由切片数决定不同,Reducetask数量的决定是可以直接手动设置

//默认值是1,手动设置为4
job.setNumReduceTasks(4);

2、注意

(1)如果数据分布不均匀,就有可能在reduce阶段产生数据倾斜

(2)reducetask数量并不是任意设置,还要考虑业务逻辑需求,有些情况下,需要计算全局汇总结果,就只能有1个reducetask。

(3)具体多少个reducetask,需要根据集群性能而定。

(4)如果分区数不是1,但是reducetask为1,是否执行分区过程。答案是:不执行分区过程。因为在maptask的源码中,执行分区的前提是先判断reduceNum个数是否大于1。不大于1肯定不执行。

3、实验:测试reducetask多少合适。

(1)实验环境:1个master节点,16个slave节点:CPU:8GHZ,内存: 2G
(2)实验结论
表1 改变reduce task (数据量为1GB)

Map task =16
Reduce task 1 5 10 15 16 20 25 30 45 60
总时间 892 146 110 92 88 100 128 101 145 104

4、ReduceTask工作机制

9193428-3fa5df33a00c4de1.png

(1)Copy阶段
ReduceTask从各个MapTask上远程拷贝一片数据,并针对某一片数据,如果其大小超过一定阈值,则写到磁盘上,否则直接放到内存中。

(2)Merge阶段
在远程拷贝数据的同时,ReduceTask启动了两个后台线程对内存和磁盘上的文件进行合并,以防止内存使用过多或磁盘上文件过多。

(3)Sort阶段
按照MapReduce语义,用户编写reduce()函数输入数据是按key进行聚集的一组数据。为了将key相同的数据聚在一起,Hadoop采用了基于排序的策略。由于各个MapTask已经实现对自己的处理结果进行了局部排序,因此,ReduceTask只需对所有数据进行一次归并排序即可。

(4)Reduce阶段
reduce()函数将计算结果写到HDFS上。

猜你喜欢

转载自blog.csdn.net/weixin_34059951/article/details/87429617